Trump affirme que les humains auront toujours un « petit équipement » pour arrêter l'IA, Bernie Sanders déclare « Nous devons suspendre le développement maintenant »

La réponse décontractée du président Donald Trump à la possibilité que l'IA se retourne contre l'humanité a suscité une vive réaction de la part du sénateur Bernie Sanders (I-Vt.), qui appelle à une pause dans le développement avancé de l'IA et à l'interdiction de la superintelligence artificielle.

Sanders qualifie la réponse IA de Trump de « dangereuse »

Dans une interview accordée mercredi à Bev Turner de GB News, Trump a laissé entendre que les humains auraient toujours un moyen d'arrêter un système d'IA s'il devenait dangereux, en plaisantant en disant qu'il y aurait un « petit équipement » pour l'arrêter.

Sanders a repoussé X, faisant valoir qu'une telle garantie ne pouvait être tenue pour acquise.

« L'ignorance de Trump en matière d'IA est consternante et extrêmement dangereuse », a écrit Sanders. « Nous devons suspendre le développement MAINTENANT. »

Sanders a indiqué qu'il prévoyait d'introduire une législation ciblant la superintelligence artificielle, reflétant l'inquiétude croissante à Washington quant à la capacité des humains à contrôler de manière fiable des systèmes d'IA de plus en plus performants

Sanders et le représentant Greg Casar (D-Texas) ont annoncé leur intention d'adopter une législation qui interdirait la superintelligence artificielle et interromprait temporairement le développement avancé de l'IA.

L'avertissement d'un chercheur anthropique alimente le débat

Cette semaine, l'ancien chercheur anthropique Jacob Coxon a démissionné et a averti que les principales sociétés d'IA s'efforçaient de s'améliorer elles-mêmes en matière de superintelligence sans aborder les risques de manière adéquate.

Sanders l'a partagé sur X et a déclaré : « Les personnes mêmes qui développent cette technologie admettent qu'elle pourrait menacer l'avenir de l'humanité ».

Ro Khanna plaide pour des règles plus strictes en matière d'IA

Dans le même temps, le représentant Ro Khanna (D-Calif.) a également appelé à un renforcement de la surveillance fédérale, citant la mise en garde du chercheur en alignement anthropique Evan Hubinger concernant le risque d'extinction humaine par l'IA

Khanna a proposé la création d'une agence fédérale d'IA, une certification obligatoire pour le confinement et les interrupteurs d'arrêt, des exigences en matière de responsabilité et d'assurance pour l'IA agentique, des sanctions pénales pour le déploiement de modèles non certifiés et une supervision par le Congrès des chercheurs en IA.

Il a également appelé à une coopération entre les États-Unis et la Chine en matière de normes de sécurité, de confinement et de responsabilité en matière d'IA, faisant valoir que la concurrence mondiale ne devrait pas pousser les entreprises à sacrifier la sécurité au profit de la rapidité.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo reproduite avec l'aimable autorisation de Rich Koele sur Shutterstock.com