Elon Musk renouvelle son avertissement sur les risques liés à l'IA au milieu des appels de Sam Altman et Dario Amodei à « Pace the Frontier » — « Sonner l'alarme sur l'IA... »

Le PDG de Space Exploration Technologies Corp. (NASDAQ : SPCX) et de Tesla Inc. (NASDAQ : TSLA), Elon Musk, a réitéré samedi sa mise en garde concernant les risques liés à l'IA.

L'avertissement de Musk dans un contexte de préoccupations plus générales

Musk a republié son avertissement dans un billet sur X au milieu des préoccupations générales de l'écosystème de l'IA concernant les dangers potentiels posés par les systèmes d'IA et les modèles de pointe. Il a déclaré qu'il mettait en garde contre l'IA depuis des années et qu'il considérait cette technologie comme plus dangereuse que les autres innovations qu'il a observées jusqu'à présent.

Musk a présenté l'intelligence artificielle générale comme un changement radical en termes de dommages potentiels, affirmant que « l'AGI présente un risque nettement plus élevé que les armes nucléaires, à mon avis ». Il a également déclaré qu'il considérait l'IA comme présentant un niveau de danger qu'il n'avait jamais associé aux précédentes vagues technologiques.

L'avertissement de Musk fait suite à l'appel du PDG d'Anthropic, Dario Amodei, à « repousser les limites » et à ralentir le développement des améliorations des capacités des modèles d'IA. L'appel d'Amodei a bénéficié du soutien du PDG de son rival OpenAI, Sam Altman, ainsi que de Musk.

Pourquoi l'AGI représente une plus grande menace que les armes nucléaires

La comparaison de Musk repose sur l'idée qu'un système doté de capacités étendues au niveau humain pourrait avoir des conséquences difficiles à contenir une fois qu'il existe. Il a décrit l'AGI comme une catégorie de risque qui, selon lui, dépasse même le potentiel destructeur des arsenaux nucléaires.

Il a également lié cette préoccupation aux limites de l'intuition humaine concernant les lacunes en matière d'intelligence. Musk a déclaré : « Les humains super intelligents ont du mal à imaginer quelque chose de beaucoup plus intelligent qu'eux-mêmes. »

Ce que Musk craint à propos de l'évolution de l'IA

Musk a déclaré qu'il « tirait la sonnette d'alarme sur l'IA depuis longtemps », positionnant ses commentaires dans le cadre d'un effort soutenu visant à mettre en lumière les inconvénients des progrès rapides de l'IA. Il a ajouté qu'il avait observé le développement de nombreuses technologies, mais qu'aucune ne présentait selon lui un danger comparable.

Selon Musk, l'inquiétude n'est pas l'amélioration progressive, mais la possibilité que des systèmes surpassent les utilisateurs dans tous les domaines. Selon lui, cette différence fait qu'il est plus difficile pour les décideurs politiques, les entreprises et les chercheurs de raisonner sur les pires scénarios.

Préoccupations croissantes

L'ancien tsar de l'IA et de la cryptographie de la Maison Blanche, David Sacks, a souligné que les principales entreprises d'IA comme OpenAI et Anthropic ont le pouvoir de ralentir elles-mêmes le développement de l'IA si elles estiment que cela présente des risques importants. Il a fait valoir que ces organisations sont à la pointe des avancées en matière d'IA et qu'elles ont le plus de contrôle sur le déploiement de systèmes avancés.

Dans le même temps, OpenAI a décidé de retarder son introduction en bourse, invoquant des problèmes de sécurité non résolus et des problèmes d'alignement. Altman a souligné la nécessité pour l'industrie et les gouvernements de collaborer pour résoudre ces problèmes.

Evan Hubinger, chercheur chez Anthropic, a averti que l'IA pourrait représenter un risque existentiel pour l'humanité d'ici dix ans. Il a noté qu'il n'existe actuellement aucun plan clair pour résoudre les problèmes d'alignement liés à la superintelligence, ce qui ajoute à l'urgence du débat en cours sur la sécurité.

Pour en savoir plus sur la couverture Consumer Tech de Benzinga, suivez ce lien.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo publiée avec l'aimable autorisation de Shutterstock