28/07/15 – Des chercheurs en robotique réclament l’interdiction des « robots tueurs »

1

Tamurt

BUENOS AIRES (Tamurt) – Dans une lettre ouverte publiée lundi 27 juillet, plus d’un millier de personnalités, dont une majorité de chercheurs en l’intelligence artificielle (IA) et en robotique, ont réclamé l’interdiction des armes autonomes, capables « de sélectionner et de combattre des cibles sans intervention humaine ».

Parmi les signataires, on retrouve Elon Musk, le célèbre PDG du constructeur de voitures électriques Tesla et de SpaceX, l’astrophysicien britannique Stephen Hawking, le cofondateur d’Apple Steve Wozniak, le linguiste américain Noam Chomsky ou encore Demis Hassabis, le fondateur de DeepMind, une entreprise consacrée à l’intelligence artificielle rachetée par Google.

Publiée à l’occasion de l’IJCAI, une conférence internationale sur l’intelligence artificielle, qui se tient du 25 au 31 juillet à Buenos Aires, la lettre dénonce un danger imminent :

« L’intelligence artificielle a atteint un point où le déploiement de tels systèmes sera – matériellement, si pas légalement – faisable d’ici quelques années, et non décennies, et les enjeux sont importants : les armes autonomes ont été décrites comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires. »

Leur crainte : que les Etats se lancent dans « une course à l’armement », justifiée par le fait que « remplacer des hommes par des machines permet de limiter le nombre de victimes du côté de celui qui les possède ». Pour eux, « la question clé de l’humanité, aujourd’hui, est de savoir s’il faut démarrer une course à l’armement doté d’IA ou l’empêcher de commencer ».

Selon les signataires, une telle escalade serait « inévitable » si une puissance militaire se lançait dans ce domaine et, « contrairement aux armes nucléaires, [ces armes] ne nécessitent aucun matériel de base coûteux ou difficile à obtenir ». Par conséquent, préviennent-ils, « ce ne sera qu’une question de temps avant qu’elles n’apparaissent sur le marché noir et dans les mains de terroristes, de dictateurs souhaitant contrôler davantage leur population et de seigneurs de guerre souhaitant perpétrer un nettoyage ethnique ».

Mais ce texte ne se veut pas une charge contre l’intelligence artificielle. Les chercheurs qui l’ont signé redoutent au contraire qu’une telle application de l’IA ne « ternisse » ce champ de recherche et ne crée un « rejet majeur du grand public contre l’IA qui couperait court à tous ses bénéfices sociétaux futurs ».

La question de l’interdiction des « armes létales autonomes » a fait l’objet d’une réunion de l’ONU en avril. Le rapporteur spécial de l’ONU Christof Heyns plaide depuis plus de deux ans pour un moratoire sur le développement de ces systèmes, en attendant la définition d’un cadre juridique adapté. L’ONG Human Rights Watch a quant à elle dénoncé « l’absence de responsabilité légale » s’appliquant aux actes de ces « robots tueurs ».

Tamurt