«La troisième révolution après la poudre et l’arme nucléaire»

«Les armes autonomes sélectionnent des cibles et leur tirent dessus sans intervention humaine. Ces armes incluent, par exemple, des quadrocopters [des drones à quatre hélices, ndlr] cherchant et éliminant des personnes correspondant à certains critères prédéfinis, mais elles ne comprennent pas les missiles de croisière ou les drones pilotés à distance, pour lesquels le choix des cibles revient à un humain. L’intelligence artificielle (IA) a atteint un stade où le déploiement de ces systèmes est réalisable - en pratique sinon juridiquement - dans les années à venir, et non les décennies. Les enjeux sont de taille : les armes autonomes sont décrites comme la troisième révolution de la guerre, après la poudre à canon et l’arme nucléaire.

«De nombreux arguments sont avancés pour défendre ou condamner ces armes. Le remplacement des soldats par des machines permettrait de réduire les pertes humaines pour celui qui les possède. A l’inverse, il lui permettrait de partir plus facilement en guerre. La question clé aujourd’hui pour l’humanité est de savoir s’il faut engager une course aux armes dotées d’intelligence artificielle ou s’il faut l’arrêter dès le départ. Si une grande puissance militaire venait à développer de telles armes, cette course mondiale serait inévitable. Et l’issue évidente : les armes autonomes deviendront les kalachnikovs de demain. Contrairement aux armes nucléaires, elles ne requièrent pas de matières premières coûteuses ou difficiles à obtenir. Elles deviendront ainsi omniprésentes et n’importe quelle puissance militaire pourra les produire massivement à peu de frais. Ce ne sera alors qu’une question de temps avant qu’elles n’apparaissent sur le marché noir et finissent aux mains de terroristes, de dictateurs, de seigneurs de guerre voulant perpétrer un nettoyage ethnique, etc. Les armes autonomes sont idéales pour assassiner, déstabiliser un pays, soumettre les populations et éliminer un groupe ethnique. C’est pourquoi nous pensons qu’une course aux armes dotées d’intelligence artificielle ne serait pas bénéfique pour l’humanité.

«Il existe de nombreux champs de bataille où l’intelligence artificielle peut œuvrer pacifiquement en faveur des êtres humains, en particulier les civils, sans inventer de nouvelles machines meurtrières. De la même manière que la conception d’armes chimiques et biologiques n’intéresse pas la plupart des chimistes et des biologistes, la plupart des chercheurs en IA n’ont aucun intérêt pour les armes intelligentes - et ils ne souhaitent pas que d’autres ternissent leur domaine de recherche en s’engageant dans cette voie, créant potentiellement un rejet massif du public et compromettant tous les bienfaits futurs pour la société. Les chimistes et les biologistes ont largement soutenu les accords internationaux interdisant les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires spatiales et armes à laser aveuglantes.

«En résumé, nous pensons que l’IA a, par bien des aspects, un immense potentiel au bénéfice de l’humanité, et que l’accomplir devrait rester l’objectif de ce champ de recherche. Lancer une course militaire aux armements dotés d’IA est une mauvaise idée qu’il faut empêcher en interdisant les armes autonomes offensives dépourvues de contrôle humain significatif.»

Voir ici la version originale du texte et la liste des signataires