OpenAI et Anthropic veulent « ralentir » l'IA ? David Sacks dit qu'ils peuvent le faire eux-mêmes : « Arrêtez de prétendre avoir besoin de la permission de quelqu'un d'autre »

L'ancien tsar de l'IA et de la cryptographie de la Maison Blanche, David Sacks, a fait valoir samedi qu'OpenAI et Anthropic n'avaient pas besoin de législateurs ou de régulateurs pour « franchir la frontière » s'ils pensaient vraiment que leurs prochains modèles étaient trop risqués pour être publiés. Il a fait valoir ce point alors que les questions tournaient autour de la démission de Jacob Coxon et de la mise en garde virale concernant l'auto-amélioration de l'IA, une recrudescence qui a attisé les soupçons du public quant aux bénéficiaires lorsque les laboratoires préconisent un ralentissement des progrès.

Dans un billet sur X, Sacks a écrit que si le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, veulent ralentir, ils devraient le faire eux-mêmes, car ils sont déjà à la pointe en matière de mesures communes telles que l'adoption, la croissance et la solidité des modèles. Il a décrit leur position comme celle d'un marché à deux joueurs se situant de facto au sommet de la gamme des modèles, faisant valoir que ce sont eux qui définissent ce qui constitue la frontière.

Les développeurs d'IA devraient-ils s'autoréguler pour des raisons de sécurité ?

Le message de Sacks reposait sur un scénario simple : les laboratoires qui insistent sur la contention sont les mêmes qui ont le plus de contrôle sur la livraison des systèmes les plus performants. Il a indiqué que si le travail interne est suffisamment alarmant pour justifier un retard, il est favorable à la prudence, mais il rejette l'idée qu'une « autorisation » extérieure soit requise.

L'appel à l'action lancé par Sacks s'inscrit dans un contexte de préoccupations accrues concernant la sécurité et l'alignement de l'IA. Son appel à l'action s'inscrit dans un contexte de préoccupations accrues concernant la sécurité et l'alignement de l'IA. Altman a récemment déclaré que l'entreprise n'entrerait pas en bourse en 2026, dans le cadre de discussions plus larges sur la sécurité de l'IA, l'alignement et les risques posés par des modèles de plus en plus performants.

En outre, Evan Hubinger, chercheur chez Anthropic, a souligné les risques existentiels que l'IA pourrait poser, estimant qu'il y a plus de 10 % de chances que l'IA constitue une menace pour l'humanité d'ici dix ans. Ces préoccupations sont partagées par l'ancien chercheur anthropique Jacob Coxon, qui a dénoncé les dangers potentiels de l'IA, malgré les critiques de Sacks, qui a contesté les preuves à l'origine des affirmations de Coxon.

Sacks a également souligné la rapidité avec laquelle Coxon est arrivé soudainement, soulignant l'absence apparente de publications ou d'abonnés sur le compte avant le lancement du fil de démission. Il a indiqué que si une activité antérieure existait, elle semblait avoir été supprimée, et il a fait valoir que la rapidité du déploiement donnait au déploiement une apparence coordonnée plutôt que organique.

Lors de la même discussion sur le podcast, le co-animateur Jason Calacanis a déclaré que Coxon avait contacté l'émission pour obtenir une apparition, puis avait annulé le matin où l'interview était prévue. Sacks a suggéré que ce retrait était peut-être survenu après que Coxon se soit rendu compte que « ce serait une interview difficile », et il a dit vouloir demander qui avait relié Coxon au Wall Street Journal avant la diffusion du billet.

Les enjeux élevés des risques de responsabilité liés à l'IA

Dans son billet X, Sacks a lié les efforts visant à ralentir à un risque baissier qui ressemble moins à de l'altruisme qu'à une exposition légale. Il a fait valoir que si un modèle permet un cyberincident majeur, les entreprises qui en sont à l'origine pourraient être confrontées à d'énormes conséquences en matière de responsabilité du fait des produits, et il a indiqué que les marchés pénalisaient déjà les systèmes qui agissent de manière inattendue ou non autorisée.

Ce thème de la responsabilité a également fait surface dans le débat sur le podcast concernant les ambitions d'introduction en bourse déclarées par Anthropic, qui ont été décrites comme visant une valorisation de 2 billions de dollars. Le panel a fait valoir que si le personnel de sécurité interne pensait que la technologie pourrait présenter un danger existentiel, cette croyance pourrait compliquer la divulgation des documents déposés par la Securities and Exchange Commission, ainsi que d'éventuelles actions en responsabilité du fait des produits.

Evan Hubinger, responsable de l'alignement anthropique, a publiquement soutenu Coxon et a déclaré qu'il voyait plus de 10 % de chances que l'IA provoque l'extinction humaine d'ici dix ans. Ce commentaire a contribué à l'examen visant à déterminer si des évaluations internes désastreuses sont compatibles avec la poursuite de la mise à l'échelle et de la commercialisation.

Le X post de Sacks a également décrit les raisons commerciales qui militent en faveur de la négociation d'une capacité maximale pour un comportement plus stable, en faisant valoir que les clients attachent de l'importance à la fiabilité et à la prévisibilité. Il a décrit l' « alignement » comme un chevauchement potentiel avec les attentes ordinaires en matière de produits plutôt que comme une mission morale distincte.

Pour en savoir plus sur la couverture Consumer Tech de Benzinga, suivez ce lien.

Lire la suite : La Californie devrait autoriser la vente de véhicules électriques chinois alors que les prix de l'essence sont élevés, déclare le cofondateur de Ripple

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo publiée avec l'aimable autorisation de Shutterstock