Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
L'intelligence artificielle est très impressionnante.
C'est bien. En cercle, bonne formation.
L'intelligence artificielle peut en finir avec la pauvreté,
imaginer des médicaments
et apporter plus de paix dans le monde.
Bien joué.
Mais c'est un chemin pavé de nombreux risques.
L'intelligence artificielle n'est pas une intelligence humaine,
elle est très imprévisible.
Alors qu'elle gagne en puissance,
où poserons-nous les limites
pour savoir si nous voulons ou non l'utiliser ?
Le point de départ idéal pour mener cette réflexion,
c'est le domaine militaire.
Le champ de bataille est aujourd'hui un monde de logiciels et de matériel.
Cible identifiée…
Les armées veulent développer leur IA plus vite que leurs adversaires.
Je suis mort.
Nous allons à toute vitesse vers un monde dans lequel les armées majeures,
mais aussi les acteurs non étatiques, les industries privées
ou même notre commissariat de police de quartier
pourraient utiliser ces armes tueuses autonomes.
Allons-nous laisser la décision de tuer aux algorithmes, aux logiciels ?
C'est une des grandes questions de notre époque.
Les utiliser sans discernement
ferait peser une grave menace sur chaque habitant de la planète.
DANS L'INCONNU
LES ROBOTS TUEURS
Bon travail, les gars.
La lentille est plus grande qu'avant.
Ah oui ?
Beaucoup plus de données.
Très cool.
Chez Shield AI, nous développons un pilote artificiel
qui utilise la technologie de la conduite autonome
mais dans le ciel.
Le pilote artificiel
apporte à l'appareil un niveau supérieur d'autonomie.
Il résoudra des problèmes tout seul.
Le Nova est un quadricoptère autonome
capable d'explorer bâtiments et structures souterraines
avant les équipes de déminage
pour avoir l'image et le son dans ces lieux.
Il s'est énormément amélioré depuis la dernière fois.
Une exploration différente aujourd'hui. On travaille étage par étage.
Il finit un étage entier avant d'aller au deuxième.
- Génial. - On a changé des choses…
On me demande souvent
en quoi l'intelligence artificielle est importante.
Je repense alors aux missions que j'exécutais.
J'ai été sept ans dans la Navy.
Avec les forces spéciales, j'ai fait deux missions en Afghanistan
et une dans le Pacifique.
En une seule journée, on devait parfois sécuriser 150 sites ou bâtiments.
L'une des compétences majeures est le combat rapproché.
Imaginez une fusillade à bout portant à l'intérieur d'un bâtiment.
On vous tire dessus.
Il peut y avoir des engins piégés dans le bâtiment.
C'est la chose la plus dangereuse qu'un membre des forces spéciales
ou de l'infanterie puisse faire au combat.
Pas de débat.
Je serai toujours heureux d'avoir servi dans l'US Navy.
J'ai de nombreux souvenirs qui, quand j'y repense,
m'émeuvent beaucoup.
C'est un cliché de dire
que la liberté a un prix, mais c'est vrai.
J'en ai fait l'expérience. Ça demande beaucoup de sacrifices.
Désolé.
Quand ça tourne mal pour un de vos camarades,
qu'il est blessé ou tué,
c'est vraiment tragique.
En ce qui me concerne, dans notre travail,
ce qui me motive, c'est de réduire le nombre de fois
que ça arrive.
À la fin des années 2000,
le département de la Défense a ouvert les yeux
sur ce que j'appellerais la révolution robotique accidentelle.
Nous avons envoyé des tas de robots en Irak et en Afghanistan.
Quand l'administration Obama m'a nommé
secrétaire adjoint à la Défense,
la façon de faire la guerre était clairement en train de changer.
Des robots étaient utilisés à la place habituelle des hommes.
Les premiers systèmes étaient télécommandés.
Un humain conduit le robot comme une voiture télécommandée.
Au début, en général ils cherchaient des engins explosifs improvisés.
Si la bombe explosait, le robot explosait aussi.
On se disait : "Mince alors. Sortez l'autre robot."
En Afghanistan, le drone Predator
est devenu très utile pour effectuer des frappes aériennes.
Peu à peu, les militaires ont commencé à se demander
à quoi d'autre pourraient servir les robots, et où cela allait.
L'une des réponses était d'aller vers plus d'autonomie.
Une arme autonome prend ses décisions toute seule,
avec pas ou très peu d'intervention humaine.
Elle est indépendante et se dirige toute seule.
Si elle est armée, elle peut tuer.
Quand il y a de plus en plus d'autonomie dans le système entier,
tout va beaucoup plus vite.
Et quand on va plus vite que ses adversaires,
on dispose d'un énorme avantage sur le champ de bataille.
En matière d'autonomie, on se concentre
sur les systèmes de renseignement résilients.
Ces systèmes analysent leur environnement
et décident de leurs évolutions au sein de ce monde.
CALIFORNIE
L'endroit où nous sommes était à l'origine un studio de cinéma
qui a été converti
en environnement réaliste d'entraînement militaire.
On est là pour évaluer notre pilote artificiel.
Sa mission est de chercher des menaces. C'est une mission de déminage.
Il peut décider comment aborder ce problème.
On appelle ça "l'entonnoir mortel". Quand il faut passer une porte.
Vulnérabilité maximale.
Celui-là est mieux.
Le Nova nous dit s'il y a un tireur derrière la porte,
s'il y a une famille.
On pourra mieux décider, et mieux protéger les gens.
On utilise les capteurs de vision
pour comprendre à quoi ressemble l'environnement.
Il y a plusieurs étages.
Voici le plan.
Pendant que j'explorais, j'ai vu ça et je l'ai vu là.
Détecteur de personne. J'aime.
Le Nova dispose aussi d'un scanner thermique.
Si c'est à 37 degrés, c'est sans doute un humain.
Il sera considéré comme une menace jusqu'à nouvel ordre.
Éliminer le brouillard de la guerre pour prendre de meilleures décisions.
Et dans l'avenir,
monter des équipes d'appareils autonomes.
Avec un véhicule autonome,
en fin de compte, on lui dit
"j'aimerais que tu ailles du point A au point B".
On ne demande pas à nos systèmes d'aller de A à B,
mais d'atteindre un objectif.
C'est plutôt : "J'ai besoin de lait."
Le robot doit alors trouver le bon magasin,
récupérer le lait et le rapporter.
Et d'ailleurs,
cette analogie est meilleure : "Garde le frigo rempli."
Il faut donc l'intelligence pour comprendre un besoin et le combler.
Et si un obstacle apparaît
ou si un problème se pose, il faut savoir le régler.
Une fois prise la décision de quitter l'US Navy,
je me suis dit : "Bon. Et maintenant ?"
J'ai grandi avec Internet, l'ai vu évoluer.
Ce que j'en avais conclu était notamment
que l'intelligence artificielle, en 2015,
en était au même stade qu'Internet en 1991.
L'IA était sur le point de décoller
pour devenir l'une des technologies les plus puissantes.
Je l'utilise tous les jours, je constate ses progrès.
Mais beaucoup de gens, quand ils pensent à l'IA,
pensent immédiatement à Hollywood.
On joue à un jeu ?
À la guerre thermonucléaire mondiale ?
Très bien.
Quand on pense à l'intelligence artificielle,
on pense généralement à Terminator, ou I, Robot.
Désactivation.
Que suis-je ?
Ou Matrix.
Si vous vous fiez aux films de SF,
comment savez-vous que je suis humain ? Je peux être une IA.
Un réplicant est une machine : un avantage ou un danger.
Mais il existe des tas d'IA plus primitives
qui vont changer notre vie
bien avant que n'arrivent les robots pensants et parlants.
Les robots sont là. Les robots prennent des décisions.
La révolution robotique est là,
c'est juste qu'elle ne ressemble pas à ce qu'on imaginait.
Le Terminator est une unité d'infiltration mi-homme, mi-machine.
On ne parle pas d'un robot tueur à la Terminator,
mais d'une IA capable d'effectuer certaines tâches humaines.
Mais la question est de savoir si ces systèmes sont fiables.
De nouveaux détails sur l'accident mortel impliquant un véhicule autonome Uber.
Le robot conversationnel intelligent de l'entreprise
a adopté un ton plutôt raciste…
Vingt-six parlementaires faussement identifiés comme criminels.
La question est de savoir si les IA peuvent gérer la complexité du monde réel.
Le monde physique est compliqué.
Il y a beaucoup de choses qu'on ignore,
ce qui complique l'entraînement des systèmes à IA.
Les systèmes d'apprentissage automatique sont alors apparus.
L'apprentissage automatique a été une énorme avancée,
car ça signifie qu'on n'a pas à tout apprendre à l'ordinateur.
On donne des millions d'informations à un ordinateur,
et la machine commence à apprendre.
Ça peut s'appliquer partout.
Avec notre projet Robot Dog, on veut montrer
que notre chien peut marcher sur de nombreux types de terrain.
L'être humain a évolué des milliards d'années pour marcher,
mais beaucoup d'intelligence entre en jeu pour s'adapter à ces différents terrains.
Une question demeure, pour les robots.
Sauront-ils s'adapter, comme les animaux et nous ?
L'apprentissage automatique
nous rapporte beaucoup de données en simulation.
Une simulation est un jumeau numérique de la réalité.
Plusieurs de ces réalités tournent ainsi sur différents ordinateurs.
Des milliers d'actions sont échantillonnées en simulation.
Le terrain rencontré est plus ou moins glissant,
plus ou moins mou.
On prend tout ce qu'ont vécu ces milliers de robots
lors des simulations et on envoie ça dans un vrai système robotique.
On va voir aujourd'hui s'il peut s'adapter à de nouveaux terrains.
Quand le robot passait sur la mousse,
les mouvements de ses pieds écrasaient le sol.
Alors que sur le polyester,
il essayait d'ajuster sa marche pour ne pas glisser.
C'est là que ça devient frappant.
Voilà ce qu'apporte vraiment l'apprentissage automatique.
Le Robot Dog pourrait être très utile
dans les situations de catastrophe
où il faut évoluer sur de nombreux types de terrain.
Le chien pourrait faire de la surveillance dans des environnements sensibles.
Mais la plupart des technologies se heurtent à la question
du bien et du mal qu'elles peuvent faire.
Par exemple, le nucléaire est utile pour l'énergie
mais les bombes atomiques sont très mauvaises.
On appelle ça la problématique du double usage.
Le feu est à double usage.
L'intelligence humaine est à double usage.
L'intelligence artificielle aussi est à double usage.
Le contexte de l'utilisation de l'IA est très important.
Oui, c'est génial d'avoir un robot de recherche et de sauvetage
capable de localiser quelqu'un après une avalanche,
mais ce même robot peut être transformé en arme.
Quand on voit des entreprises installer des armes sur des robots,
on enrage un peu.
Car on comprend qu'avec notre technologie,
c'est ce qui va se passer.
C'est une technologie réellement transformatrice.
Ces systèmes d'armement
pourraient avoir un effet spectaculaire sur notre sécurité.
Nous ne sommes toujours pas sûrs que les machines sachent faire
la distinction entre civils et combattants.
Au début, en Afghanistan, mon équipe de tireurs d'élite
recherchait les ennemis à la frontière.
Ils ont envoyé une petite fille pour nous repérer.
Personne n'a jamais émis l'idée de la tuer.
Selon les lois de la guerre, ç'aurait été légal.
Ces lois ne fixent pas d'âge minimum.
Un robot conçu pour respecter à la lettre la loi de la guerre
aurait tué cette petite fille.
Comment un robot peut-il distinguer ce qui est légal et ce qui est moral ?
Les drones guerriers autonomes
sont censés éviter de la souffrance aux soldats américains
et à la psyché américaine,
mais la souffrance endurée par les civils retombe sur les Afghans,
Irakiens et Somaliens.
Ma question à ceux qui soutiennent l'utilisation de l'IA dans les drones
est celle-ci : "Et si c'était votre village ?"
L'IA est une arme à double tranchant.
On peut l'utiliser bénéfiquement, ce qui est généralement le cas,
et en appuyant sur un bouton,
cette technologie devient potentiellement mortelle.
Je suis pharmacologiste.
Je dirige une équipe
qui utilise l'intelligence artificielle afin de trouver des médicaments
capables de soigner des maladies qui n'intéressent personne.
Avant, on prenait une molécule existante
qu'on modifiait pour avoir un nouveau médicament.
Aujourd'hui, nous avons créé une IA
qui peut nous donner des millions d'idées,
des millions de molécules,
et cela nous ouvre énormément de possibilités
pour soigner des maladies qu'on n'a jamais su traiter jusqu'ici.
Mais il y a un côté sombre, et je n'aurais jamais cru
y être confronté.
Tout a commencé quand j'ai été invité
par le laboratoire Spiez, basé en Suisse,
à faire une présentation sur les mésusages potentiels de l'IA.
Sean m'a envoyé un e-mail avec quelques idées
sur certaines façons néfastes d'utiliser notre IA.
Au lieu de demander à notre modèle de créer des molécules
capables de soigner,
essayons de générer les molécules les plus toxiques possibles.
Je voulais vérifier
si on pouvait utiliser l'IA pour concevoir des molécules mortelles.
On pensait que ça n'allait pas marcher,
car on avait juste changé un 0 en 1.
En inversant ce chiffre, au lieu de fuir la toxicité,
on recherche la toxicité.
Et c'est tout.
J'étais chez moi, et l'ordinateur faisait le travail.
Il passait en revue et générait des milliers de molécules
et on n'avait rien eu d'autre à faire que cliquer sur "vas-y".
Le lendemain matin, il y avait un fichier sur mon ordinateur.
Dans ce fichier, il y avait environ 40 000 molécules
qui étaient potentiellement
parmi les molécules les plus toxiques connues de l'humanité.
Des frissons m'ont parcouru l'échine.
J'étais stupéfait.
L'ordinateur a fabriqué des dizaines de milliers d'idées
de nouvelles armes chimiques.
Il y a bien sûr là-dedans des molécules apparentées au VR et au VX.
Le VX est l'une des armes chimiques les plus puissantes au monde.
Selon la police,
les femmes ayant assassiné Kim Jong-nam à l'aéroport
ont utilisé un agent innervant mortel, le VX.
Il peut causer la mort par asphyxie.
C'est une molécule très puissante,
et la plupart de ces molécules étaient encore plus mortelles que le VX.
Beaucoup d'entre elles étaient à priori inconnues.
Quand Sean et moi l'avons réalisé, on s'est dit : "Qu'est-ce qu'on a fait ?"
J'ai vite compris qu'on avait ouvert la boîte de Pandore
et j'ai dit : "Arrête. Ne fais rien d'autre. C'est fini."
"Prépare-moi les diapos pour la présentation."
En faisant tout ça, je me demandais : "Qu'est-ce qui peut arriver de pire ?"
Maintenant, je me dis qu'on a été totalement naïfs de faire ça.
Le plus terrifiant, c'est que n'importe qui peut le faire.
Il suffit d'appuyer sur un bouton.
Comment contrôler cette technologie avant qu'elle ne soit utilisée
pour faire quelque chose de totalement destructeur ?
Au cœur du débat autour de l'intelligence artificielle
et de son utilisation dans la société,
il y a une course entre la force avec laquelle nous la développons
et la sagesse que nous avons pour la gouverner.
Il y a d'évidentes implications morales et éthiques
dans le fait que la chose qui anime nos smartphones
puisse être chargée de la décision morale de tuer.
Je travaille au Future of Life Institute, une communauté de scientifiques militants.
On essaie surtout de montrer
qu'il y a un autre aspect du développement à grande échelle de l'automatisation.
Nous essayons de veiller à ce que les technologies que nous créons
soient utilisées de manière sûre et éthique.
Il faut avoir une discussion sur les règles au combat
et sur un code de conduite par rapport à l'IA
dans nos systèmes d'armement.
Car des technologies arrivent sur le champ de bataille
qui peuvent tuer de façon autonome.
En 2021, l'ONU a publié un rapport sur l'utilisation potentielle
d'une arme autonome létale sur le champ de bataille en Libye.
Selon les Nations unies, un drone utilisé pendant la guerre civile libyenne
avait été programmé pour attaquer des cibles de façon autonome.
Si l'ONU a raison,
c'est un moment charnière pour l'humanité.
Car c'est un cas précis
où une intelligence artificielle a pris la décision de tuer,
et non un être humain.
Des armes autonomes avancées
commencent à être utilisées dans le monde entier.
Des rapports sont venus d'Israël.
L'Azerbaïdjan a utilisé des systèmes autonomes
pour attaquer la défense aérienne arménienne.
Il peut survoler le champ de bataille pendant des heures,
à la recherche de cibles à frapper seul,
puis les attaquer sans aucune intervention humaine.
Récemment, nous avons vu
plusieurs vidéos publiées en Ukraine.
On ignore dans quel mode ils fonctionnaient.
Un humain était-il présent pour choisir les cibles,
ou la machine le faisait-elle toute seule ?
Mais il est certain que le moment arrivera,
si ce n'est pas déjà arrivé en Libye, en Ukraine ou ailleurs,
où une machine décidera de qui tuer sur le champ de bataille.
Le fait que des machines exercent un pouvoir mortel contre les humains
sans intervention humaine
est politiquement inacceptable et moralement répugnant.
La communauté internationale
suffira-t-elle à maîtriser ce défi ?
C'est un gros point d'interrogation.
Si on regarde vers l'avenir, ne serait-ce que quelques années,
le paysage est effrayant.
En effet, la quantité de capital et de ressources humaines
engagée dans le développement de l'intelligence artificielle
et visant à l'utiliser dans des tas d'applications
est immense.
VIRGINIE
Regardez-moi ce mec.
Il sait qu'il va perdre.
Quand je vois l'IA résoudre des problèmes, je trouve ça inspirant.
L'action de la dernière chance.
On peut appliquer les mêmes stratégies aux appareils réels.
Bien joué.
Bravo, bien joué.
Ça me surprend
que les gens continuent à affirmer que l'IA ne sait pas faire ci ou ça.
"Elle ne pourra jamais battre un champion du monde d'échecs."
Un ordinateur IBM a réussi à revenir
contre le champion du monde Garry Kasparov.
Kasparov abandonne !
Quand je vois quelque chose qui dépasse mon entendement,
j'ai peur. Et ceci dépassait mon entendement.
Puis les gens ont dit
que l'IA ne pourrait jamais battre un champion du monde de go.
Je crois que l'intuition humaine est encore trop avancée pour que l'IA
ait pu combler son retard.
Le go est l'un des jeux les plus compliqués à apprendre,
car le nombre de coups possibles
dépasse le nombre d'atomes de l'univers tout entier.
DeepMind, une équipe de Google,
a créé un programme appelé AlphaGo
pour battre les meilleurs joueurs du monde.
Félicitations…
- AlphaGo. - AlphaGo.
Un programme informatique vient de battre un pro classé 9e dan.
Puis DeepMind a choisi StarCraft comme son prochain défi d'IA.
C'est sans doute le jeu de stratégie en temps réel le plus célèbre.
AlphaStar est devenue célèbre quand elle a battu des champions du monde.
AlphaStar cartonne l'Arc immortel.
Tu sais quoi ?
Les pros ne peuvent pas gagner.
C'est ahurissant.
Les joueurs pros disaient : "Jamais je n'essaierais cette tactique,
"ni cette stratégie. C'est quelque chose qui n'est pas humain."
C'est sans doute là que j'ai compris.
J'ai réalisé que le moment était venu.
Il existe une technologie importante et une possibilité de changer les choses.
Je ne connaissais que les problèmes que j'avais connus en combat rapproché,
et l'un de mes amis, pilote de F-18, m'a dit
qu'ils avaient les mêmes problèmes chez les pilotes de chasse.
Communications brouillées,
prolifération des missiles sol-air,
missions devenues trop dangereuses.
Imaginez un avion de chasse commandé par une IA.
Bienvenue pour AlphaDogfight.
Nous sommes à quelques minutes de la première demi-finale.
La DARPA, l'agence des projets de recherche avancée de défense,
avait vu AlphaGo et AlphaStar,
et l'idée est alors née de la compétition AlphaDogfight.
C'est vraiment ce que ferait un pilote humain.
Ça ressemble bien à un combat aérien humain.
Le dogfight, c'est le combat aérien entre avions de chasse.
On peut voir ça comme un match de boxe dans le ciel.
Les gens ont peut-être vu Top Gun.
On peut les distancer ?
Pas leurs missiles.
Alors on se bat.
Maîtriser le combat aérien peut demander de huit à dix ans.
C'est un défi extrêmement complexe pour le développement d'une IA.
VIRGINIE
Les premiers essais d'autonomie en combat aérien étaient faibles.
On s'est dit que l'apprentissage automatique pouvait résoudre ce problème.
Au début, l'IA ne savait rien du monde dans lequel on la parachutait.
Elle ignorait qu'elle volait et ce qu'était le combat aérien.
Elle ignorait ce qu'était un F-16.
Elle ne connaissait que les actions disponibles,
et elle s'est mise à les explorer au hasard.
L'avion bleu ne s'entraîne que depuis peu.
On voit qu'il vacille d'avant en arrière,
qu'il vole de façon très erratique, s'éloignant de son adversaire.
Petit à petit,
le bleu commence à établir sa stratégie.
Il est mieux placé pour tirer.
De temps en temps, l'algorithme dit :
"Voilà un bonbon. Continue ce que tu viens de faire."
La puissance des ordinateurs nous permet de former les agents
de nombreuses fois en parallèle.
Imaginez une équipe de basket
qui, au lieu d'affronter toujours la même équipe,
parcourt le monde pour jouer contre 512 équipes,
mais en même temps.
Elle progressera très vite.
On a fait tourner cette simulation sans s'arrêter
et on a obtenu 30 ans de formation de pilote en dix mois.
Au début, l'avion était incontrôlable.
À la fin, c'était un tueur redoutable.
À l'entraînement, on était en compétition avec d'autres intelligences artificielles.
Mais affronter directement les humains était l'objectif ultime.
Je m'appelle Mike Benitez.
Lieutenant-colonel dans l'aviation.
En service actif depuis environ 25 ans.
J'ai fait 250 missions de combat
et je suis diplômé d'école d'armement,
la version réelle de Top Gun.
Je n'ai jamais volé contre une IA.
J'ai hâte de voir ce que je vais pouvoir faire.
C'est une offensive à 6 000 pieds, nez à nez.
C'est parti.
Il est parti.
Oui, c'est très intéressant.
- Mort. - Je l'ai eu. Victoire parfaite.
Allez, deuxième manche.
L'intelligence artificielle manœuvre avec une telle précision
que je n'arrive pas à suivre.
En plein dans l'axe.
Tu es mort.
Je l'ai eu !
Elle m'a eu.
L'IA n'a jamais peur.
L'élément émotionnel humain, elle ne le connaît pas.
Une des stratégies les plus intéressantes développées par notre IA
est le tir de face.
D'habitude, l'humain veut tirer par derrière
car il est ainsi difficile de lui échapper.
Il ne cherche pas à tirer de face, c'est un jeu dangereux.
En arrivant de face, on passe de 900 à 150 mètres
en un clin d'œil.
Il y a un risque élevé de collision. Les humains évitent.
L'IA, à moins qu'on le lui ordonne, n'a pas peur de la mort.
J'ai l'impression d'affronter un humain,
mais un humain qui se fiche complètement de sa sécurité.
Il ne survivra pas à cette dernière.
Il manque de temps.
Au dodo.
Je suis mort.
Une leçon d'humilité.
Je suis peut-être moins fort pour ça que cette chose,
et cette chose pourrait un jour me remplacer.
Plafond à 6 000 pieds.
Écart à 1 000 pieds.
Avec cette IA aux commandes d'un avion de chasse,
la victoire est implacable.
Ce n'est pas seulement une large victoire.
C'est : "On veut ça dans nos avions." Voilà comme c'est puissant.
Une IA aux commandes d'un F-16, c'est une chose réaliste,
et nous n'en sommes plus très loin.
Si vous affrontez une IA qui gagne 99,99999 % du temps,
vous n'avez aucune chance.
Quand je pense qu'une IA est imbattable,
je pense à ce qu'une équipe de 50, 100
ou même 1 000 IA peut continuer à accomplir.
Le swarming est un essaim d'avions très intelligents
travaillant ensemble
et partageant leurs informations pour résoudre des problèmes.
Ces nouvelles capacités sont susceptibles de tout changer
pour notre armée et nos alliés.
La cible a été identifiée et les drones la suivent.
C'est le moment d'atterrir.
L'objectif principal de nos recherches sur les essaims
est de déployer un grand nombre de drones
sur une zone difficile d'accès ou dangereuse.
Le laboratoire de recherche de l'armée soutient ce projet.
Si l'on veut savoir ce qu'il y a quelque part
et qu'il est difficile accéder à la zone ou qu'elle est très grande,
déployer un essaim est une bonne façon
de dépasser le rayon d'action humain
et de recueillir des informations cruciales.
En ce moment, notre essaim
ne reçoit qu'un ordre de nous, celui de suivre sa cible.
Les drones partent et se débrouillent tout seuls.
L'IA permet aux robots d'évoluer collectivement en essaim
de façon décentralisée.
Dans les essaims naturels,
il n'y a pas de chef, aucun animal ne donne les ordres.
Le comportement de l'essaim émerge du fait que chaque animal
suit quelques règles simples.
C'est de là que naît le comportement collectif que l'on voit.
Ce qui est impressionnant, dans les essaims naturels,
c'est la grâce de leurs déplacements.
C'est comme s'ils étaient faits pour faire partie de ce groupe.
On aimerait voir notre essaim de drones
se comporter comme un essaim naturel
et décider collectivement, en groupe.
Notre autre source d'inspiration
réside dans leur fiabilité et dans leur résilience.
L'essaim ne tombe pas
si un animal individuel ne fait pas ce qu'il est censé faire.
Même si l'un des agents tombe, échoue
ou ne peut pas accomplir la tâche,
l'essaim continue.
C'est ce qu'on veut obtenir.
En situation de combat, on doit identifier les avions ennemis
et auparavant, il fallait une personne par robot.
L'autonomie augmentant,
j'espère que nous aurons un grand nombre de robots
contrôlés par un petit nombre de gens.
On pourra très bien atteindre les 1 000 robots,
car chaque agent agira de son propre gré.
Ça peut aller très loin.
On peut développer l'apprentissage…
On travaille sur les essaims en simulation depuis longtemps,
il est temps d'avancer sur de vrais avions.
On a l'intention d'avoir trois robots à la fois sur le réseau,
puis on ajoutera petit à petit des capacités.
On veut tester ça sur de petits systèmes
et appliquer les mêmes concepts à des systèmes plus gros,
comme un avion de chasse.
On se demande souvent
comment donner à un peloton la puissance d'un bataillon,
ou à un bataillon la puissance d'une brigade.
Ça devient possible avec un essaim.
En libérant la puissance des essaims,
on crée une nouvelle forme de dissuasion
contre l'agression militaire.
Le plus formidable, c'est le nombre de jeunes hommes et femmes
qu'on sauvera si on fait bien les choses.
On se sert de machines
plutôt que de vies humaines.
Certains disent que les armes autonomes rendront la guerre plus précise
et plus humaine,
mais il est difficile de prévoir
de quelle façon exacte les armes autonomes transformeront la guerre.
Pensez à la mitrailleuse Gatling.
Richard Gatling était un inventeur
qui voyait les soldats blessés pendant la guerre de Sécession
et cherchait comment humaniser la guerre.
Il voulait réduire le nombre de soldats tués à la guerre
en réduisant le nombre de soldats sur le front.
Il inventa donc la mitrailleuse Gatling, actionnée par une manivelle
et qui automatisait le tir.
Il a multiplié par 100 la puissance de feu des soldats.
Les tentatives de rendre la guerre plus précise et humaine
ont souvent l'effet inverse.
Pensez à l'effet d'une frappe de drone perdue
dans une zone rurale
soulevant la population locale contre les États-Unis,
contre un gouvernement local. Les soi-disant gentils.
Multipliez ça par 1 000.
La création d'un système d'armement
bon marché, évolutif, ne nécessitant pas d'opérateurs humains,
déplace radicalement les obstacles aux conflits.
Je n'en dors plus la nuit. Un monde de guerre omniprésente,
où nous n'avons plus à supporter son coût humain et financier
car nous sommes tellement éloignés…
des vies qui seront perdues.
Tout ça me hante.
Je ne cherchais qu'un exemple de mésusage de l'IA.
Les conséquences imprévues de cette simple expérience de pensée
vont beaucoup trop loin.
L'IA POUR CRÉER DES MÉDICAMENTS : FAIRE MOINS DE MAL QUE DE BIEN
Pendant ma présentation
sur les molécules toxiques créées par l'intelligence artificielle,
le public était bouche bée.
DES ANALOGUES DU VX DANS LES MEILLEURS COMPOSÉS
On s'est ensuite demandé si on devait publier cette information.
D'un côté, on veut avertir le monde
de l'existence de ces possibilités, mais de l'autre côté,
on ne veut pas donner l'idée à quelqu'un s'il ne l'a pas eue.
On a décidé de publier,
pour peut-être permettre de maîtriser les risques de mésusage de l'IA
avant qu'ils ne se produisent.
LE DOUBLE USAGE DE LA DÉCOUVERTE DE MÉDICAMENTS PAR IA
L'INTELLIGENCE ARTIFICIELLE CAPABLE DE DÉCOUVRIR DES MÉDICAMENTS
La réaction du public nous a fait un choc.
On peut voir combien de personnes ont accédé à cette page.
Au mieux, nos articles sont habituellement
lus par quelques milliers de personnes sur un an ou même plusieurs années.
Dix mille personnes en une semaine.
Puis 20 000, puis 30 000, puis 40 000.
C'est monté à 10 000 personnes par jour.
On a fait The Economist, le Financial Times,
Le podcast Radiolab nous a appelés. "Radiolab, ça me dit quelque chose !"
Mais les réactions ont fini par devenir incontrôlables.
Des tweets du genre : "Mon Dieu, ils n'auraient pas pu faire pire."
"Pourquoi ont-ils fait ça ?"
Puis on a reçu une invitation que je n'aurais jamais imaginée.
Il y a eu beaucoup de discussions à la Maison-Blanche sur l'article,
et ils voulaient nous parler d'urgence.
C'est un honneur incroyable
de pouvoir parler à des gens à ce niveau-là.
Mais soudain, on réalise.
"Mon Dieu, c'est la Maison-Blanche. C'est le patron."
Nous avons regroupé des données libres de droits…
En six heures, le modèle a pu générer plus de 40 000…
Ils nous ont demandé la puissance de calcul nécessaire.
On leur a dit. Une puissance ordinaire.
Un Mac tout à fait normal âgé de six ans.
Et ça les a époustouflés.
Ceux qui sont chargés de comprendre les agents de guerre chimique
et les agences gouvernementales n'avaient aucune idée de ce potentiel.
On dispose d'un livre de recettes d'armes chimiques
qui, entre les mains de quelqu'un qui a des intentions malveillantes,
peut avoir des effets réellement horribles.
Tout le monde doit être attentif,
et il faut prendre des mesures pour réglementer cette technologie
ou la contraindre afin de l'empêcher d'être mal utilisée.
Parce que son potentiel létal
est terrifiant.
La question de l'éthique de l'IA est largement abordée par la société,
pas par les ingénieurs, les technologues ou les mathématiciens.
Chaque technologie que nous inventons, chaque nouvelle innovation
est soumise à la façon dont la société pense qu'on doit l'utiliser.
Pour l'instant, le département de la Défense dit
que le seul acteur qui décide de tuer
sur le champ de bataille est un humain.
Une machine peut agir pour tuer,
mais seulement à la demande d'un opérateur humain,
et je ne vois pas ça changer.
Ils nous assurent que ces technologies seront sans danger,
mais l'armée américaine n'a pas franchement bonne réputation
avec les drones guerriers.
Donc quand il s'agit de faire confiance aux États-Unis avec l'IA,
hélas, le passé parle de lui-même.
La politique du département américain de la Défense en matière d'armes autonomes
n'interdit aucun type d'armement.
Et même si les militaires ne veulent pas d'armes autonomes,
ils pourraient bien confier davantage de décisions aux machines
pour suivre le rythme de leurs concurrents.
Et ça pourrait les pousser à automatiser des décisions
contre leur gré.
Poutine a dit : "Celui qui maîtrisera l'IA dominera le monde."
Le président Xi a affirmé clairement la volonté de la Chine
de dominer dans le domaine de l'IA.
On est en pleine compétition technologique.
On entend les gens parler de garde-fous,
et c'est normal qu'ils le fassent.
Mais il y a une course bien réelle à la domination en matière d'IA.
Et nos adversaires, Chine, Russie ou Iran,
ne s'embarrasseront pas une seconde de notre politique en matière d'IA.
Il y a beaucoup de discussions autour de la politique à tenir,
et j'aimerais qu'il y ait davantage de dirigeants
pour dire : "Combien de temps il vous faut ?
"On va mettre le paquet, fabriquez-moi ça."
SALON ANNUEL DE L'ASSOCIATION DE L'ARMÉE
ARMÉE DES ÉTATS-UNIS
Nous sommes au grand salon annuel de l'Association de l'armée américaine.
Tous les fournisseurs de produits ou de technologies aux armées
y exposent.
La base aérienne de Tyndall a quatre de nos robots
qui font des rondes sur la base en permanence.
On peut tout leur ajouter, des caméras, des capteurs, ce qu'on veut.
Des bras articulés… Tout ce qu'il faut pour accomplir la mission du client.
Et si votre ennemi se mettait à l'IA ?
Un système de combat qui réfléchit et réagit plus vite
que ce dont un être humain est capable. Il faut être prêt.
On entraîne nos systèmes à collecter des informations sur l'ennemi
et à suivre ses cibles, les humains restant aux commandes pour tuer.
- Bonjour, général. - Ça va ?
Bien, monsieur. Et vous ?
Personne n'investit davantage sur un pilote artificiel.
Le nôtre, c'est Hivemind.
On l'a installé sur notre drone, le Nova. Il va à l'intérieur des bâtiments,
les explore avant l'infanterie et les forces spéciales.
On est en train de l'installer sur V-BAT,
donc on pourra mettre en place des centaines d'équipes
que ce soit dans le détroit de Taïwan
ou en Ukraine, pour dissuader nos adversaires.
L'idée me plaît bien.
- D'accord. Merci. - Merci, général.
Les pilotes artificiels seront partout d'ici 2025-2030,
ils vont être vite adoptés par les armées du monde entier.
Et le type de l'armée roumaine qui s'occupe des aéronefs sans pilote ?
Haute technologie dans l'armée.
On a dépensé un demi-milliard de dollars pour notre pilote artificiel.
On va remettre un milliard ces cinq prochaines années.
C'est pour ça qu'on gagne les appels d'offres aux États-Unis.
C'est bien.
C'est même impressionnant. Vous avez réussi à en faire une arme.
Ce n'est pas encore une arme.
Pas encore. Mais oui, à l'avenir.
Nos clients le voient comme un camion. Disons que c'est un camion intelligent
qui peut faire beaucoup de choses.
Je vous tiens au courant, c'est sûr.
Dans dix ans,
l'intelligence artificielle et l'autonomie domineront tout le marché.
Les forces équipées d'IA et de machines autonomes
domineront, écraseront et détruiront celles qui ne le seront pas.
Ce sera l'équivalent du cheval contre le char d'assaut,
de l'épée contre la mitrailleuse.
Il n'y aura pas photo.
Ça va devenir omniprésent dans tous les domaines de la guerre,
tactique
comme stratégique,
et ça fonctionnera à des vitesses encore inimaginables.
Les commandants sont déjà submergés d'informations.
Images satellite, drones, capteurs…
L'IA peut notamment
aider un commandant à comprendre plus vite ce qui se passe.
Ensuite, il réfléchit aux décisions à prendre.
L'intelligence artificielle prendra en compte tous les facteurs
déterminant la façon dont la guerre est menée,
elle trouvera des stratégies
et donnera des conseils pour gagner une bataille.
VIRGINIE
CENTRE D'INNOVATION
Chez Lockheed Martin, comme au département de la Défense,
on voit l'IA comme une technologie clé pour faciliter
le commandement.
Vitesse de propagation moyenne : 60 cm/s.
Périmètre d'environ 300 hectares.
Le brouillard de la guerre est une réalité
qui a des parallèles dans le domaine environnemental
pour la gestion des feux de forêt.
L'incendie de Washburn est au nord de la ville de Wawona.
Il faut prendre des décisions avec des données imparfaites.
Comment l'IA peut-elle nous aider avec ce brouillard-là ?
Les feux de forêt sont chaotiques
et très complexes,
donc nous travaillons en vue d'utiliser l'intelligence artificielle
pour l'aide à la décision.
Notre programme, le Cognitive Mission Manager,
prend des images de vidéo infrarouge
et les traite avec nos algorithmes d'IA
pour pouvoir prédire l'état à venir de l'incendie.
Dans l'avenir,
le Cognitive Mission Manager utilisera la simulation
et fera tourner des scénarios pendant des milliers de cycles
pour conseiller la meilleure façon de déployer les ressources
afin d'éteindre les zones de feu prioritaires.
Il dira : "Allez arroser avec un hélicoptère Firehawk ici,
"faites venir des équipes de débroussaillage
"et des pompiers pour arroser,
"et mettez-les dans les zones prioritaires."
Ces décisions seront ainsi prises plus rapidement
et plus efficacement.
Pour nous, l'IA permet aux humains
de s'adapter à un environnement en constante évolution.
Il y a un bon nombre de parallèles à faire
avec ce à quoi on est habitués chez Lockheed Martin du côté militaire.
L'armée ne parle plus seulement d'utiliser l'IA
et des systèmes d'armement isolés pour prendre la décision de tuer,
mais d'intégrer l'IA
au cœur de l'architecture décisionnelle de l'armée.
L'armée de terre a un grand projet, le projet Convergence.
La marine a Overmatch.
Et l'aviation a son système avancé de gestion de combat.
Le département de la Défense veut savoir
comment assembler toutes ces pièces
pour pouvoir agir plus vite que l'adversaire
et prendre un véritable avantage.
Une IA gestionnaire de combat serait comme un général de haut rang
chargé de commander la bataille.
Elle aiderait à donner des ordres à un grand nombre de soldats,
à coordonner les actions de toutes les armes disponibles,
à une vitesse qu'aucun humain ne peut suivre.
Depuis 70 ans,
nous avons construit l'armée la plus sophistiquée au monde,
et nous devons maintenant nous demander si nous voulons céder le contrôle
de cette infrastructure à un algorithme, un logiciel.
Or cette décision pourrait avoir comme conséquence
de déclencher toute la puissance de nos arsenaux militaires.
Non pas un Hiroshima, mais des centaines.
C'est le moment d'agir.
Il ne sera bientôt plus possible de contenir ce risque.
Cet après-midi, nous commençons par les défis de sécurité internationale
posés par les technologies émergentes
dans le domaine des armes létales autonomes.
Des discussions ont lieu au sein des Nations unies
sur la menace des armes létales autonomes
et sur notre refus des systèmes utilisant l'IA pour cibler les gens.
Le consensus chez les technologues est clair et sans appel.
Nous sommes opposés aux armes autonomes ciblant les humains.
Depuis des années, les États discutent de ce problème
des armes létales autonomes.
Notre sentiment de sécurité à tous est en jeu.
Mais bien sûr, ce n'est pas facile.
Certains pays, surtout les puissances militaires,
veulent être à l'avant-garde
pour pouvoir devancer leurs adversaires.
Le problème est que tout le monde doit être d'accord pour qu'on avance.
Il y aura au moins un pays contre,
et les États-Unis et la Russie ont clairement fait savoir
qu'ils sont contre un traité d'interdiction des armes autonomes.
Le nombre de personnes qui travaillent à rendre l'IA plus puissante
est très impressionnant.
Les gens qui veillent activement à ce que l'IA soit sûre
sont beaucoup moins nombreux.
Mais je suis aussi très optimiste.
Pensez à la convention sur les armes biologiques,
qui a eu lieu en pleine guerre froide
malgré les tensions existant entre l'URSS et les États-Unis.
Ils ont su comprendre que le développement d'armes biologiques
n'était ni dans leur intérêt
ni dans l'intérêt du reste du monde.
Dans une course à l'armement, la vitesse est préférée à la sécurité.
Mais ce qu'il faut absolument prendre en compte,
c'est qu'il arrive un moment où la vitesse coûte trop cher.
On ne peut pas développer des choses de façon isolée
et les lancer sans réfléchir à ce qu'elles pourraient devenir.
Il faut empêcher ce qui s'est passé avec la bombe atomique.
Les enjeux de la course à l'IA sont énormes.
Peu de gens se rendent compte de la stabilité internationale
qu'a apporté le fait d'avoir une force militaire supérieure
depuis 75 ans.
Les États-Unis et leurs alliés
doivent surpasser l'IA ennemie.
Pas de 2e place à la guerre.
La Chine veut devenir le leader mondial de l'IA en 2030…
Une course que l'Amérique perd peut-être…
Vous allez accélérer l'adoption de l'intelligence artificielle
pour assurer notre avantage militaire.
On fonce en avant avec cette technologie.
Mais on ne sait pas jusqu'où on ira.
Contrôle-t-on cette technologie ou est-ce l'inverse ?
On n'aura pas de seconde chance.
Une fois le génie sorti de la bouteille, c'est fini.
Ce sera très difficile de le remettre dedans.
Si on n'agit pas maintenant, il sera trop tard.
Il est peut-être déjà trop tard.
Sous-titres : Thomas Chaumont