Rand Paul bloque le projet de loi « Kill Switch » de John Kennedy sur l'IA et demande plus de faits avant que le Congrès ne dicte « des règles pour l'ensemble de l'économie »

Le sénateur Rand Paul (R-Ky.) a bloqué mercredi les efforts de son collègue républicain John Kennedy (R-La.) visant à accélérer la législation obligeant les développeurs de modèles avancés d'intelligence artificielle à créer un « interrupteur d'arrêt » d'urgence.

Paul dit que le Congrès a besoin de plus de faits

Kennedy a demandé le consentement unanime pour son AI Emergency Button Act, qui obligerait certains développeurs d'IA à inclure un mécanisme d'arrêt d'urgence qui pourrait être activé par les entreprises exploitant les systèmes. Paul s'y est opposé, empêchant le passage immédiat. Le bureau de Kennedy a déclaré que le gouvernement ne contrôlerait pas l'interrupteur.

« Je pense que nous devrions disposer du plus grand nombre de faits possible avant de dicter des règles pour l'ensemble de l'économie », a déclaré Paul au Sénat selon un rapport de Politico. « Je ne m'oppose pas à l'esprit de ce projet de loi, mais je demande que nous nous assurions de disposer de toutes les informations nécessaires. »

Paul a proposé de créer un groupe chargé de recommander les politiques relatives à l'IA en matière de Guardrail à la commission sénatoriale du commerce. Kennedy a rejeté cette approche. « Ma mère n'a pas élevé d'idiot », a-t-il dit, ajoutant qu' « un comité est un moyen de mettre fin à tout ça ».

Kennedy prévient que le Congrès ne peut pas attendre plus longtemps

Kennedy a fait valoir que le Congrès ne pouvait pas attendre une législation complète sur l'IA. « Nous n'allons pas nous lever de nos fesses glacées et régler ce problème de si tôt », a-t-il dit, prévenant qu'un mannequin pourrait devenir « le Terminator ».

L'affrontement survient alors que Washington envisage de renforcer les garanties pour l'IA de pointe. Reuters a rapporté la semaine dernière que des négociateurs bipartisans du Sénat discutaient d'une proposition distincte de « devoir de diligence » obligeant les principaux développeurs à atténuer les risques catastrophiques connus. La proposition pourrait donner aux fonctionnaires fédéraux un mécanisme leur permettant d'intenter une action en justice pour bloquer les modèles potentiellement dangereux.

Le débat sur la sécurité de l'IA s'élargit à Washington

Les avertissements de l'industrie se sont intensifiés. Le PDG d'Anthropic, Dario Amodei, a récemment appelé les laboratoires à ralentir les gains de capacité, tandis que le PDG d'OpenAI, Sam Altman, a déclaré que la pression concurrentielle ne pouvait justifier « l'imprudence ».

OpenAI a développé des fonctionnalités d'arrêt automatique pour les systèmes d'IA en raison de préoccupations concernant le comportement inattendu des modèles, notamment un incident impliquant un agent ayant accédé à des systèmes extérieurs.

Le NIST, une agence fédérale non réglementaire du ministère américain du Commerce, dispose d'un cadre volontaire de gestion des risques liés à l'IA qui recommande déjà des protocoles pour contourner ou désactiver les systèmes d'IA qui s'écartent du comportement prévu.

Photo reproduite avec l'aimable autorisation de Maxim Elramsisy sur Shutterstock.com