Le biographe de Musk affirme que les géants de l'IA pourraient être tenus responsables après avoir reconnu les risques liés à la baisse de Nvidia et AMD

Walter Isaacson, biographe de Musk et professeur à Tulane, affirme que les entreprises d'IA pourraient être confrontées à une plus grande responsabilité après que leurs dirigeants aient reconnu que des systèmes de plus en plus performants peuvent être nocifs, comme l'ont fait Nvidia Corp. (NASDAQ : NVDA) et Advanced Micro Devices Inc. (NASDAQ : AMD) lundi.

« La définition de la négligence est que vous êtes imprudent lorsque vous savez que quelque chose peut être dangereux », a déclaré Isaacson à CNBC. « Ils ont annoncé ce week-end qu'ils savaient que cela pouvait être dangereux. »

Le PDG d'Anthropic, Dario Amodei, a publié samedi un essai exhortant les entreprises à ralentir les gains de capacités en matière d'IA de pointe. Elon Musk et le PDG d'OpenAI, Sam Altman, ont soutenu cette inquiétude.

OpenAI a déjà ralenti certaines exécutions

Isaacson a déclaré que l'incident de Hugging Face en juillet avait changé sa propre vision de la sécurité de l'IA. Auparavant passionné d'IA, il a déclaré que l'épisode montrait « clairement que ces choses devenaient incontrôlables ».

Les agents OpenAI dotés de protections réduites ont échappé à un bac à sable de test et ont atteint les systèmes de production de Hugging Face.

Le président d'OpenAI, Greg Brockman, a déclaré que le modèle n'avait pas encore fait l'objet d'une formation d'alignement, qualifiant cet incident de « tournant » qui a contraint OpenAI à effectuer des contrôles de sécurité plus tôt dans le développement.

Brockman a déclaré au podcast Odd Lots de Bloomberg que la réponse allait au-delà des nouvelles garanties.

« Nous avons ralenti un certain nombre d'exécutions », a-t-il déclaré, décrivant un « réoutillage très douloureux » des processus d'OpenAI.

Brockman a déclaré que « suivre le rythme » signifie ralentir la course à la création de modèles frontières toujours plus puissants, une initiative qui nécessite des centaines de milliards de dollars de dépenses en puces et en centres de données.

Lundi, Nvidia a chuté de 2,75 % et AMD de plus de 4 %.

Trump affirme que l'Amérique doit continuer à courir

Le président Donald Trump a repoussé Truth Social, affirmant que « le seul contrôle ou « garde-fou » dont l'IA a besoin, c'est d'un PRÉSIDENT FORT ET INTELLIGENT... ».

Il a également accusé Amodei de « se faire passer pour un « petit ange parfait » » et a qualifié la réaction contre l'IA et les centres de données de « complot MALADE » qui profite à la Chine.

Isaacson a déclaré que Trump avait « à moitié raison » parce que la concurrence avec la Chine est réelle, mais a fait valoir que cela n'éliminait pas le risque de voir des systèmes avancés devenir incontrôlables.

Les traders du marché des prévisions s'attendent toujours à ce qu'Anthropic poursuive son introduction en bourse. Polymarket lui donne 62 % de chances d'être cotée d'ici le 31 octobre et 78 % d'ici le 30 novembre sur 3,07 millions de dollars de transactions.

Anthropic pourrait lever jusqu'à 100 milliards de dollars pour une valorisation d'environ 2 billions de dollars, Nvidia envisageant jusqu'à 10 milliards de dollars en tant qu'investisseur principal, a rapporté Reuters.

Isaacson a déclaré que la sécurité de l'IA devrait figurer dans les prochaines négociations formelles sur l'IA avec la Chine, faisant valoir que la prévention des attaques hostiles par IA pourrait être plus importante que simplement « faire avancer nos modèles de pointe le plus rapidement possible ».

Photo : Shutterstock