La course à l’IArmement

Le lundi 27 juillet 2015 le Future of Life Institute (un organisme américain à but non lucratif qui se focalise sur les risques potentiels du développement d’une intelligence artificielle de niveau humain) a publié une lettre ouverte signée par près d’un millier de personnalités dont les célèbres Elon Musk et Stephen Hawking. Ils dressent un constat alarmant concernant l’utilisation croissante de l’intelligence artificielle dans l’armement et réclament purement et simplement l’interdiction des armes offensives autonomes. En effet la rapide évolution de cette technologie meurtrière suscite bon nombres d’inquiétudes dans les milieux politique mais aussi scientifique et c’est désormais la question d’une « course à l’IArmement » qui se pose. Que se passera-t-il quand l’utilisation de robots capables « de sélectionner et de combattre des cibles sans intervention humaine » sera généralisée ?

« Les armes autonomes létales menacent de constituer la troisième révolution dans la guerre. Une fois développées, elles permettront aux conflits armés de se produire à une échelle plus importante que jamais et à une rapidité supérieure à ce que les humains peuvent appréhender », mettent en garde les spécialistes de la question en ajoutant que le temps joue contre nous, un cadre législatif et des règlementations doivent donc être mises en place au plus vite.

Éthiquement est-il acceptable qu’une machine complètement autonome puisse tirer sur quelqu’un et potentiellement le tuer sans qu’un ordre humain soit donné en amont ?

La logique ces armes offensives autonomes se rapprochent de celle des mines antipersonnel à la seule différence que ces dernières sont immobiles, l’intervention humaine n’est désormais plus nécessaire pour tuer. De fait, de la même manière que l’utilisation et la prolifération des mines antipersonnel a été encadré voire interdite (convention d’Ottawa 1997) on peut s’attendre a ce que l’IArmement connaisse la même logiques.

En tant que concepteurs de cette technologie devenue meurtrière, les entreprises et ingénieurs du secteur de l’IA peuvent se sentir eux même affectés de voir les nouvelles perspectives dans le domaine. De fait ils sont éminemment concernés par cette problématique et se doivent de sonner l’alarme. En effet en plus de craindre une escalade militaire dont ils seront en partie les responsables, ils redoutent aussi qu’une telle application de l’IA ne ternissent son image auprès de l’opinion publique alors qu’au fond l’objectif premier de l’IA est de grandement simplifier notre quotidien.

La Russie semble déjà être au centre de cette escalade technologique et son armée teste déjà une large gamme de robots armés autonomes, allant du petit robot tireur antiterroriste jusqu’au modèle de grande taille adapté au combat antichar et en passant par le robot démineur. Poutine avait annoncé que le pays leader en matière d’intelligence artificielle serait «maître du monde» c’est donc tout naturellement qu’il engage son pays sur cette voie.

Parallèlement, le Général Mark Milley, chef d’état-major de l’US Army a affirmé son intention de développer l’utilisation de systèmes armés autonomes, voulant ainsi conserver son avance face aux géants chinois et russe dans le domaine technologique. Selon lui, on peut s’attendre à voir ces robots déferler sur le champ de bataille rapidement avec comme première conséquence une modification profonde du caractère fondamental de la guerre. En effet, lorsqu’un pays pourra se permettre de remplacer ses hommes par des machines limitera le nombre de victimes de son côté et prendra un ascendant incontestable sur ses adversaires.d

L’IArmement est donc un véritable « game changer » dans l’échiquier diplomatique. On peut facilement imaginer que si un pays parviendrait à se procurer une arme offensive autonome aux capacités largement supérieures a celles de ces opposants en termes de force, de résistance et de précision, son avantage sur le champ de bataille serait décisif et les autres n’auront ainsi pas d’autre choix que d’essayer d’en faire autant. Or, comme le secret à cet égard fait partie de la stratégie, le risque est évidemment que tous se lancent silencieusement dans la course, de peur d’être devancés et de subir un désavantage tactique majeur.

 

Sources :

https://www.contrepoints.org/2017/11/17/303328-nerehta-course-a-liarmement

https://www.tbc-france.com/blog/posts/2017/november/intelligence-artificielle-et-robots-armes-un-melange-explosif/

https://www.lemondeinformatique.fr/actualites/lire-armes-autonomes-elon-musk-et-115-experts-ia-alertent-l-onu-69097.html

http://www.lemonde.fr/pixels/article/2015/07/27/intelligence-artificielle-hawking-musk-et-chomsky-reclament-l-interdiction-des-armes-autonomes_4701102_4408996.html

Répondre