Le sénateur Chris Murphy tire la sonnette d'alarme sur la course à l'IA et soutient l'avertissement d'un chercheur anthropique : « Les entreprises d'IA se lancent dans une course aveugle pour construire d'abord une machine à mort »

Le sénateur Chris Murphy (D-Conn.) a averti que la course au développement d'une intelligence artificielle de plus en plus avancée pourrait présenter de sérieux risques, tout en soutenant les critiques d'un chercheur d'Anthropic concernant l'approche de l'industrie en matière de superintelligence.

Murphy plaide pour une régulation de l'IA

Mercredi, Murphy a partagé sur X un billet du chercheur anthropique Jacob Coxon, qui a quitté l'entreprise, exhortant ses abonnés à lire le compte de Coxon et soulignant ses préoccupations concernant le développement de l'IA avancée.

« Si vous lisez quelque chose aujourd'hui, lisez ceci », a écrit Murphy. Selon lui, le problème décrit par Coxon — « les entreprises d'IA dans une course aveugle pour construire d'abord une machine à mort » — pourrait être résolu par le biais d'une supervision gouvernementale.

« Grâce à un système de réglementation qui permet à la recherche de se poursuivre, mais d'une manière qui ne nous détruit pas », a-t-il ajouté.

Un chercheur anthropique met en garde contre la superintelligence

Coxon a déclaré avoir démissionné d'Anthropic après avoir passé trois ans à mener des recherches de préformation à la fois chez Anthropic et OpenAI.

« J'ai démissionné d'Anthropic aujourd'hui. J'ai passé les trois dernières années à faire de la recherche préalable à la formation à OpenAI et à Anthropic. Aucune des deux entreprises n'agit de manière responsable », a écrit Coxon.

« Ils se précipitent tout droit vers une superintelligence qui s'améliore et jouent avec nos vies », a-t-il ajouté.

Les leaders de l'IA répondent aux préoccupations liées à la superintelligence

Plus tôt cette année, Alexandr Wang, directeur de l'IA de Meta Platforms, Inc. (NASDAQ : META), a déclaré que la vision de l'entreprise en matière de « superintelligence personnelle » visait à aider les utilisateurs à atteindre leurs objectifs, à adopter des habitudes plus saines et à passer plus de temps hors ligne, tout en faisant valoir que Meta était incitée à créer une IA sûre, transparente et utile.

OpenAI, sous la direction du PDG Sam Altman, a proposé des politiques visant à garantir que les avantages économiques de la superintelligence soient largement partagés, notamment des impôts plus élevés sur les bénéfices générés par l'IA, un fonds public, des projets pilotes de semaines de travail plus courtes, une meilleure protection des travailleurs et des filets de sécurité sociale élargis.

Débat sur la réglementation de l'

Lundi, le sénateur Bernie Sanders (I-Vt.) a averti que les milliardaires des grandes technologies avaient trop d'influence sur l'IA et a appelé à une supervision publique accrue, tout en soutenant une législation visant à interdire l'IA superintelligente et à suspendre temporairement le développement avancé de l'IA jusqu'à ce que des normes de sécurité soient établies.

Le mois dernier, Dan Ives, partenaire de Yorkville Ives, a déclaré que les vulnérabilités croissantes en matière de sécurité de l'IA renforçaient les arguments en faveur d'une réglementation et pourraient mener à un « âge d'or pour la cybersécurité », mais a averti que des règles excessives pourraient freiner l'innovation et bénéficier à la Chine.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo publiée avec l'aimable autorisation de Shutterstock