L'IA pourrait menacer les systèmes de commande nucléaire, avertissent les experts américains et chinois : demandez un contrôle humain et une hotline d'urgence

Des spécialistes de la sécurité des États-Unis et de la Chine ont appelé leurs gouvernements à se préparer aux menaces potentielles liées à l'intelligence artificielle (IA) qui pourraient compromettre les réseaux de commandement nucléaire ou lancer des cyberopérations militaires.

Melanie Sisson de la Brookings Institution et Tianjiao Jiang de l'université de Fudan participent à un dialogue entre les États-Unis et la Chine lancé par Brookings et le Center for International Security and Strategy de l'université de Tsinghua en 2019. Leurs propositions ont été publiées la semaine dernière, avant les négociations gouvernementales sur l'IA et une rencontre entre le président Donald Trump et le président chinois Xi Jinping à Washington le 24 septembre.

Ils ont suggéré des mesures pour empêcher les systèmes d'IA de déclencher des incidents internationaux. Il s'agit notamment de définir les limites des systèmes nucléaires, de garantir le contrôle humain des cyberattaques importantes et de créer une hotline pour les incidents impliquant une IA autonome.

Melanie Sisson, de Brookings, a fait valoir que les humains devraient conserver l'autorité exclusive pour lancer des cyberattaques basées sur l'IA contre des systèmes de commande nucléaires ou des infrastructures stratégiquement importantes.

Ni les États-Unis ni la Chine n'ont officiellement approuvé les propositions de Brookings-Tsinghua, a rapporté Reuters.

Cependant, la Chine a intégré l'IA dans son cadre de contrôle des armements existant. En juin, l'ambassadeur chinois pour le désarmement Shen Jian a averti que l'IA militaire pourrait affecter la stabilité stratégique et augmenter le risque d'erreur de calcul et d'escalade, tout en soulignant que les armes devaient rester sous contrôle humain. La Chine a également fait valoir que la sécurité de l'IA ne devrait pas être utilisée pour justifier des restrictions technologiques, selon la publication.

Pour Sanders, le risque lié à l'IA dépasse la menace nucléaire

Dans une interview accordée à CBS News, le sénateur Bernie Sanders (I-VT) a averti que la menace potentielle que représente l'IA pour l'humanité est « probablement plus importante » que celle des armes nucléaires.

Sanders a indiqué qu'il prévoyait de présenter une législation la semaine prochaine qui interdirait définitivement les systèmes d'IA superintelligents plus performants que les humains et qui pourraient potentiellement échapper au contrôle humain, et suspendrait le développement de l'IA avancée. Il a également proposé des sanctions sévères pour les violations, y compris jusqu'à 20 ans de prison, en faisant valoir que les lois protégeant l'humanité contre de telles technologies devraient avoir des conséquences importantes.

Nadella et un responsable chinois signalent les risques liés à l'IA

Le PDG de Microsoft Corp. (NASDAQ : MSFT), Satya Nadella, a souligné que la sécurité de l'IA devrait également être une préoccupation pour la Chine. Nadella a suggéré la possibilité de « normes internationales » autour de l'IA, à condition que les risques soient bien compris.

Dans le même temps, le ministre chinois de la Sécurité de l'État, Chen Yixin, a identifié six risques majeurs liés à l'IA. Il a averti que l'IA pourrait permettre des cyberattaques plus efficaces, des fuites de données à grande échelle, des monopoles technologiques, des bouleversements sociaux et des avantages sur le champ de bataille grâce à un ciblage basé sur l'IA. Il a préconisé des directives plus strictes en matière d'IA et des contrôles de sécurité plus rapides pour garantir son « développement sain et ordonné » grâce à une « gouvernance à haute efficacité ».

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Crédit photo : Shutterstock