Mark Zuckerberg affirme que Meta a retardé Muse de plusieurs mois pour se concentrer sur la sécurité de l'IA et n'a pas demandé aux autres de ralentir : « Chaque laboratoire a une responsabilité... »

Mardi, le PDG de Meta Platforms, Inc. (NASDAQ : META), Mark Zuckerberg, a déclaré que la société avait retardé son agent Muse AI de plusieurs mois pour répondre à des problèmes de sûreté et de sécurité.

Zuckerberg affirme que les laboratoires d'IA devraient gérer eux-mêmes les risques de sécurité

« Chaque laboratoire a la responsabilité et la motivation d'agir au rythme requis pour entraîner ses modèles en toute sécurité, et la capacité de prendre ses propres mesures pour y parvenir », a écrit Zuckerberg sur X.

Il a fait valoir que les entreprises d'IA avaient déjà de bonnes raisons de donner la priorité à la sécurité.

Selon lui, les utilisateurs éviteront les agents d'IA qui ne suivent pas leurs instructions ou agissent contre leurs intérêts, faisant de l'alignement un facteur concurrentiel de plus en plus important.

« La question de ralentir les progrès en matière de capacités jusqu'à ce que l'alignement rattrape son retard fait l'objet de nombreux débats. À mon avis... tout laboratoire qui ne se concentre pas sur l'alignement risque de prendre du retard. »

Zuckerberg a également déclaré que les laboratoires s'exposaient à une « responsabilité importante » si leurs modèles causaient des dommages, ce qui les incitait fortement à prévenir de tels risques.

Meta a retardé Muse pour des raisons de sécurité

Le PDG de Meta a ensuite cité Muse de Meta comme exemple de l'entreprise agissant de son propre chef. Il a déclaré que Meta avait retardé le lancement de l'agent pendant des mois alors qu'il se concentrait sur la sûreté et la sécurité.

« Nous n'avons pas demandé à tout le monde de le faire avant nous », a déclaré Zuckerberg. « Nous l'avons fait dans le cadre de notre travail quotidien, car c'était clairement ce qu'il fallait pour les gens et pour nous. »

Il a également plaidé en faveur d'un recours accru à des évaluateurs et à des conseillers indépendants pour tester les systèmes d'IA, affirmant qu'un écosystème d'évaluateurs plus large et plus diversifié bénéficierait à l'industrie.

Altman et Musk soutiennent l'appel au ralentissement de l'IA d'Amodei

La semaine dernière, le PDG d'Anthropic, Dario Amodei, a appelé à un ralentissement mondial, suscitant des inquiétudes quant aux risques associés à des systèmes de plus en plus puissants.

Sa position a été soutenue par Sam Altman, PDG d'OpenAI, Elon Musk, PDG de Space Exploration Technologies Corp (NASDAQ : SPCX), et Demis Hassabis, directeur de Google DeepMind d'Alphabet Inc. (NASDAQ : GOOG) (NASDAQ : GOOGL).

Trump qualifie les problèmes de sécurité liés à l'IA de « canular »

Donald Trump a ensuite rejeté les avertissements relatifs à la sécurité de l'IA. Il a déclaré que les pouvoirs gouvernementaux existants étaient suffisants et a averti que des réglementations plus strictes pourraient désavantager les États-Unis par rapport à la Chine.

Trump a également déclaré au PDG de Nvidia Corp. (NASDAQ : NVDA), Jensen Huang, que les inquiétudes concernant la prise de pouvoir par des robots n'étaient « qu'un canular ».

Plus tôt ce mois-ci, Huang a exhorté les dirigeants du G20 à accélérer l'adoption de l'IA, avertissant qu'une réglementation excessive pourrait laisser les pays à la traîne.

Huang s'est fait l'écho de Zuckerberg, affirmant que les entreprises d'IA devraient garantir la sécurité de leur technologie pendant que les régulateurs se concentrent sur les risques réels.

Il l'a comparé à l'aviation, où les compagnies aériennes s'occupent de la sécurité tandis que les passagers se concentrent sur l'orientation que la technologie peut leur apporter.

Evolution du cours : Les actions Meta ont clôturé à 670,24$ mardi, en hausse de 0,70 %. L'action s'est négociée à 668,74 dollars en dehors des heures de bureau, en baisse de 0,22 %, selon Benzinga Pro.

Le classement des actions Benzinga Edge montre que Meta maintient une tendance à la hausse à court, moyen et long terme, son score de croissance se situant au 79e centile.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo publiée avec l'aimable autorisation de Frédéric Legrand — COMEO sur Shutterstock.com