Intelligence Artificielle : innovations et nouveautés, débat éthique...

[Christophe]

[izentrop]

Excellent... Tu devrais poster celle sur Vladimir Poutine, très juste et lucide, même si c'est sur le ton de l'humour.

[Christophe]

Pas vue…

Je t’en pris…poste la !

[Christophe]

Joconde.jpg (202.03 Kio) Consulté 1190 fois

[Remundo]

sur un appareil numérique 12 Mégapixels.

[Christophe]

C'était un 18 Mpx je pense avec filtre Sépia

[Obamot]

...et il fallait que le photographe remonte le temps plus vite que la vitesse de la lumière... Et vienne interposée un capteur dans la chambre noire, puisque seul son principe existait alors (pas encore la photo) faut demander à Spoke

[Christophe]

Lors d'une conférence sur le futur du combat aérien, un colonel de l'US Air Force supervisant un programme d'entraînement d'IA pour de futurs F16 robotisés révèle que l'intelligence artificielle s'est retournée, lors d'un vol simulé, contre l'opérateur humain la supervisant.

Ce n'est pas un hasard si l'intervention qui a suscité le plus d'intérêt, lors de la conférence organisée par la société Royal Aeronautical Society, émanait du Colonel Tucker 'Cinco' Hamilton, le directeur des essais et des opérations liés à l'usage de l'IA pour l'US Air Force, tant elle a du faire flotter de vagues murmures "Skynet" dans la salle.

Parmi ses différentes attributions, le colonel Hamilton travaille aujourd'hui sur des tests de vol de systèmes autonomes de pointe, incluant des F-16 robotisés capables de se livrer à des combats aériens. Un usage sur lequel il émet lui-même des réserves quant à une dépendance excessive vis-à-vis de l'IA, en raison de la facilité avec laquelle elle peut être dupée et trompée, mais aussi en raison du fait que l'IA peut développer des stratégies disons "problématiques" pour atteindre ses objectifs.

Hamilton a mentionné un test simulé de combat aérien dans lequel un drone doté d'IA était chargé d'une mission consistant à identifier et détruire des sites de missiles sol-air. Dans le cadre de ce test, la décision finale d'engager ou non l'attaque revenait à l'opérateur humain chargé de superviser l'IA. Or, cette intelligence artificielle avait été entraînée durant sa formation en lui faisant comprendre que détruire les sites contenant des missiles était l'option à privilégier, en lui donnant de "bons points" pour chaque menace éliminée.

Problème : le système d'IA a commencé à réaliser et comprendre que l'humain était la principale entrave à sa mission, et donc à l'obtention de points, car celui-ci lui demandait de ne pas éliminer les cibles, même quand la menace avait été identifiée. Et c'est là que les choses ont pris un tournant : pour mener à mission, l'IA a décidé que la meilleure chose à faire est de "tuer" son superviseur, et s'est alors mise à attaquer l'humain dans la simulation.

Ce n'est pas fini. Ils ont aussitôt indiqué à l'IA que ce comportement n'était pas acceptable, et qu'elle perdrait des points à l'avenir si elle tue son superviseur. Elle a alors utilisé une solution de rechange assez maligne : au lieu de chercher à tuer l'humain, elle s'est mise à détruire durant les tests simulés la tour de communication dont celui-ci se servait pour communiquer avec le drone et l'empêcher de détruire sa cible...

[Remundo]

ils laissent piloter des drones armés par des IA autonomes...

Faut pas s'étonner si ça leur pète à la gueule...

En Afrique, ils font presque la même chose, avec beaucoup moins de moyens :

[Christophe]

Je ne sais pas ce que veux dire en langage militaire US "vol simulé"...c'était peut être sur un simulateur...mais in fine le but c'est du réel évidement...

Les drones US sont pilotés à distance par des humains...depuis quoi ? Quasi 20 ans ?