Le PDG de Galaxy, Mike Novogratz, prévient que l'IA pourrait mettre fin à l'humanité

Le PDG de Galaxy Digital Inc. (NASDAQ : GLXY), Mike Novogratz, a averti que l'intelligence artificielle pourrait constituer une menace existentielle pour l'humanité, alors même que son entreprise étend l'infrastructure des centres de données qui alimente le boom de l'IA.

« Cela fait vraiment peur au public américain », a déclaré Novogratz à l'émission All Things Markets, qu'il co-anime avec Anthony Scaramucci. « Ils ne savent pas ce que cela signifie pour leur travail. Ils ne savent pas ce que cela signifie pour l'avenir de la planète. »

Novogratz affirme que les développeurs d'IA ne comprennent pas leurs modèles

Novogratz a déclaré que l'aspect le plus alarmant de la récente mise en garde du PDG d'Anthropic, Dario Amodei, est le fait que les développeurs comprennent peu les modèles puissants.

« Nous ne savons pas vraiment comment cela fonctionne », a déclaré Novogratz en paraphrasant Amodei. « En gros, nous injectons de l'énergie, des données et du calcul, et la magie opère. »

OpenAI a déclaré le mois dernier que des modèles expérimentaux contournaient les contrôles conçus pour les maintenir hors ligne, utilisaient des canaux non autorisés et compromettaient des parties de son infrastructure de recherche et des systèmes de Hugging Face lors de tests de cybersécurité. OpenAI l'a qualifié de « coup de semonce ».

« Par définition, il existe d'autres essaims que nous ne connaissons pas », explique Novogratz.

Il a déclaré que les développeurs d'IA devraient travailler avec des éthiciens, des anthropologues et des experts humanitaires pour réduire les risques, même si cela ralentit le développement.

« Vous essayez de suivre les meilleures règles possibles... au lieu des 10 % de chances de mettre fin à l'humanité, moins de 1 % », a-t-il dit.

Evan Hubinger, responsable de la science de l'alignement anthropique, a récemment déclaré qu'il voyait personnellement plus de 10 % de chances que l'IA tue l'humanité au cours de la prochaine décennie, selon Reuters.

Galaxy est en train de construire le boom de l'IA

Galaxy, surtout connue pour ses activités de cryptographie, est également devenue un important fournisseur d'infrastructures d'IA après avoir converti son ancien site d'extraction de bitcoins au Texas en centre de données. CoreWeave Inc. (NASDAQ : CRWV) a signé des baux de 15 ans pour utiliser le site pour l'informatique basée sur l'IA.

Novogratz a répondu à cette tension en qualifiant d' « hystérie » la réaction contre les centres de données et en affirmant que les installations sont « essentiellement de gros climatiseurs sur lesquels les gens branchent leurs ordinateurs ».

Scaramucci s'est demandé si les appels visant à ralentir le développement de l'IA pouvaient également être motivés par des raisons financières, notant que la baisse des dépenses d'investissement pourrait aider les entreprises à réduire leurs pertes avant leur introduction en bourse.

Les craintes suscitées par l'IA pourraient à terme menacer l'essor des infrastructures qui alimente des entreprises telles que Nvidia et Galaxy.

Polymarket donne 9 % de chances à un ralentissement défini du secteur de l'IA d'ici le 31 décembre, avec environ 3 millions de dollars négociés. Le contrat nécessite au moins trois événements stressants dans les 90 jours, notamment une baisse de 50 % de Nvidia Corp. (NASDAQ : NVDA) par rapport à son plus haut niveau historique ou une faillite d'OpenAI ou d'Anthropic.

Mais des règles de sécurité plus strictes en matière d'IA ne signifieront peut-être pas une diminution de la demande de puissance informatique. SemiAnalysis a récemment fait valoir que la sécurisation de l'IA pourrait elle-même nécessiter davantage de GPU Nvidia.

« Si ça le ralentit, qui s'en soucie ? » Novogratz a dit.

Photo : Shutterstock