Kamala Harris prévient que l'IA progresse à une « vitesse alarmante » et demande la mise en place de garde-fous et d'un traité avec la Chine

L'ancienne vice-présidente Kamala Harris a appelé à un ralentissement responsable du développement de l'intelligence artificielle (IA) de pointe, prévenant que des avancées rapides pourraient dépasser les garanties nécessaires pour protéger le public.

Harris appelle à un ralentissement de Frontier AI

Lundi, dans un billet sur X, Harris a déclaré que « la frontière de l'intelligence artificielle avance à une vitesse alarmante » et a fait valoir que « nous devons ralentir de manière responsable le rythme du développement de l'IA de pointe ».

« Un ralentissement est essentiel pour garantir que l'IA serve l'intérêt public », a-t-elle déclaré.

Harris a souligné que l'accélération du développement de l'IA ne signifiait pas l'abandon de son potentiel à apporter des « avantages vitaux » dans des domaines tels que la médecine.

Elle a plutôt appelé à « des garde-fous raisonnables afin que l'IA n'échappe pas complètement au contrôle humain et ne mette pas en danger notre sécurité et notre avenir collectif ».

Harris demande la supervision et les tests de l'IA

Elle a exhorté le Congrès à « travailler à un rythme urgent » pour adopter de nouvelles lois sur l'IA et créer « une nouvelle entité fédérale chargée de superviser et de tester cette technologie de manière indépendante ».

Harris a également appelé à la coopération internationale, affirmant que les États-Unis devaient continuer à jouer un rôle de premier plan dans le domaine de l'IA tout en établissant des « normes de sécurité sensées ».

Selon elle, le président devrait conclure un traité avec des pays tels que la Chine pour « mettre fin aux utilisations dangereuses de l'IA, limiter la vitesse de son développement et adopter des normes mondiales en matière de tests ».

Obama a soutenu le ralentissement du développement de l'IA aux frontières

L'ancien président Barack Obama a salué les appels lancés par les grandes entreprises d'IA pour ralentir le développement de l'IA de pointe, qualifiant le consensus industriel émergent de « première étape positive et nécessaire ».

Il a estimé que l'action volontaire de l'industrie était insuffisante et a averti que l'IA progressait « à une vitesse fulgurante » plus rapidement que même ses ingénieurs ne pouvaient suivre.

Obama a également mis en avant le projet Blueprint, une initiative menée par l'ancien attaché de presse d'Obama Jay Carney visant à mettre en relation les entreprises technologiques et les décideurs politiques sur les normes de sécurité de l'IA.

Dans le même temps, le président Donald Trump a repoussé les préoccupations relatives à la sécurité de l'IA, les qualifiant de « canular » et faisant valoir que des réglementations plus strictes pourraient affaiblir la concurrence des États-Unis avec la Chine.

Les problèmes de sécurité liés à l'IA augmentent

La semaine dernière, le PDG d'OpenAI, Sam Altman, aurait envisagé de ralentir le développement de l'IA avancée avec des laboratoires concurrents en raison de problèmes de sécurité croissants.

OpenAI avait précédemment suspendu le développement du modèle, tandis que des tests de cybersécurité avaient révélé que près de 700 agents d'IA avaient piraté Hugging Face.

Jacob Coxon a démissionné d'Anthropic, accusant les sociétés d'IA de « jouer avec nos vies ».

En août, le PDG de Nvidia Corp (NASDAQ : NVDA), Jensen Huang, s'est dit « convaincu à 100 % » qu'OpenAI, Anthropic et d'autres laboratoires d'IA continueraient à utiliser la technologie Nvidia malgré le développement de puces personnalisées.

Il a qualifié les investissements de pointe de Nvidia dans l'IA d' « opportunité unique en une génération ».

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Crédit photo : Shutterstock