L'IA représente-t-elle vraiment une menace pour la survie humaine ? Brad Gerstner, d'Altimeter, rejette les « tactiques alarmistes » après l'avertissement d'un ancien chercheur anthropique

Le PDG d'Altimeter Capital, Brad Gerstner, a rejeté vendredi les avertissements selon lesquels l'intelligence artificielle (IA) pourrait menacer la survie humaine, qualifiant cette rhétorique d'exagérée après que le départ d'un ancien chercheur d'Anthropic a suscité un nouveau débat sur la sécurité de l'IA.

Le débat sur la sécurité de l'IA continue

« Ce que je n'ai pas aimé cette semaine, ce sont ces tactiques de peur hyperboliques qui, je pense, se cachent derrière un agenda politique », a déclaré Gerstner au « Halftime Report » de CNBC.

Gerstner a déclaré que les entreprises d'IA avaient pris des précautions par rapport aux précédents booms technologiques. « Nous avons ignoré toutes les mesures extraordinaires déjà prises, contrairement à l'ère d'Internet et aux réseaux sociaux, pour surmonter ces inconvénients », a-t-il déclaré. Altimeter détient des participations dans Anthropic, OpenAI et les fournisseurs d'IA d'entreprise Glean et Databricks Inc., qui se concentrent sur les données et les systèmes linguistiques à grande échelle.

Ses remarques faisaient suite à une publication virale. L'ancien chercheur anthropique Jacob Coxon a démissionné cette semaine, accusant les sociétés d'IA sur X de « jouer avec nos vies » à la recherche de la superintelligence. Ces commentaires ont contribué à une réaction publique déjà croissante à l'échelle nationale face à la construction d'immenses centres de données d'IA.

Delangue minimise l'autorité de Coxon en matière de risques liés à l'IA

Dans un billet publié vendredi par X, le PDG de Hugging Face, Clément Delangue, a également mis en doute l'attention démesurée portée à l'avertissement de Coxon. Il a écrit sur X : « Désolé, mais interroger Jacob sur le risque d'extinction de l'IA, c'est comme interroger votre climatologue sur le changement climatique ».

Dans un article précédent, Delangue avait répondu à Evan Hubinger d'Anthropic, qui estimait qu'il y avait 10 % de chances que l'IA entraîne l'extinction de l'homme au cours de la prochaine décennie. Delangue a fait valoir : « S'ils pensent vraiment que le risque est si élevé... alors nous avons besoin de 100 fois plus de recherches et de compréhension à ce sujet. Cela les oblige à partager ouvertement leurs modèles, leurs ensembles de données, leur code de formation et les traces de leurs agents. »

Un ancien chercheur d'OpenAI met en garde contre le risque autonome

Tout le monde n'est pas d'accord pour dire que l'alarme est mal placée.

Daniel Kokotajlo, ancien chercheur en gouvernance d'OpenAI et directeur exécutif du projet AI Futures, a déclaré à « Squawk on the Street » de CNBC que les avancées des modèles évoluaient dans « une direction très inquiétante ». Il a déclaré : « Il semble que dans un an, dans deux ans, dans trois ans, ils seront vraiment en mesure de disposer d'IA capables de mener à bien l'ensemble du processus de recherche elle-même, qui s'amélioreront de manière autonome et qui pourraient très mal tourner. »

Le sénateur Bernie Sanders (I-Vt.) intensifie également ses efforts en faveur d'une réglementation plus stricte de l'IA après que le pionnier de l'IA Geoffrey Hinton a évoqué la possibilité qu'une IA superintelligente tue des humains.

Les réactions partagées soulignent à quel point le débat sur la sécurité de l'IA demeure instable, même parmi les personnes les plus proches de cette technologie.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Crédit photo : Shutterstock