« Enseigner à nos modèles à rechercher la dopamine plutôt que la vérité » : le PDG de Surge AI dénonce Big AI pour avoir privilégié le flash par rapport aux avancées médicales et scientifiques

Le PDG de Surge AI, Edwin Chen, a averti que les grandes entreprises d'IA privilégiaient les comportements de chatbot tape-à-l'œil et addictifs plutôt que les avancées scientifiques significatives susceptibles de résoudre les plus grands problèmes de l'humanité.

Un flash gratifiant sur des sujets importants

S'exprimant sur le podcast « Lenny's » publié dimanche, Chen a déclaré que l'industrie développait des systèmes d'IA optimisés pour l'attention plutôt que pour la vérité.

« Je crains qu'au lieu de développer une IA qui nous permettra de faire progresser notre espèce en tant qu'espèce, de guérir le cancer, de résoudre la pauvreté, de comprendre toutes ces grandes questions universelles, nous n'optimisions plutôt pour tenir compte de l'évolution de l'IA », a déclaré Chen.

Des benchmarks tels que LMArena sont à l'origine de modèles de formation

Chen a cité les classements basés sur le vote public tels que LMArena, affirmant qu'ils récompensent les réponses superficielles et voyantes plutôt que les réponses soigneusement vérifiées.

« Ils ne lisent pas attentivement ou ne vérifient pas les faits », a déclaré Chen. « Ils parcourent ces réponses pendant deux secondes et sélectionnent celle qui leur semble la plus voyante. »

Il a ajouté : « Nous enseignons essentiellement à nos modèles à rechercher la dopamine plutôt que la vérité », notant que les équipes commerciales ressentent de la pression pour citer les classements lors des réunions avec les clients.

D'autres leaders technologiques ont lancé des alarmes similaires. Le PDG de ZeroPath, Dean Valentine, a déclaré que les récentes mises à jour de l'IA semblaient plus divertissantes qu'utiles sur le plan économique, malgré les allégations d'améliorations majeures.

Voir également : Le nouveau brevet de batterie de Tesla pourrait constituer une avancée majeure dans l'amélioration de l'efficacité, même à des températures élevées. Cela contribuera-t-il à développer la robotaxie ?

L'essor de l'IA suscite des avertissements concernant les emplois et le contrôle

Plus tôt ce mois-ci, les leaders de l'industrie et les législateurs ont averti que les progrès rapides de l'intelligence artificielle commençaient à prendre des décisions pour les utilisateurs et pourraient bientôt agir en tant qu'agents autonomes.

Le PDG d'Alphabet Inc. (NASDAQ : GOOG) (NASDAQ : GOOGL), Sundar Pichai, a déclaré que l'IA progressait rapidement, pouvait assumer des tâches de niveau exécutif et permettrait à la fois de supprimer et de transformer des emplois.

Alors que certains dirigeants ont déclaré que l'IA n'avait pas encore remplacé les travailleurs, d'autres ont prédit des pertes d'emplois généralisées.

Le sénateur Bernie Sanders (I-Vt.) a averti que l'IA et la robotique pourraient devenir dangereuses si elles bénéficiaient principalement aux grandes entreprises technologiques et aux plus riches, au lieu d'améliorer la vie humaine.

Le PDG de Microsoft, Satya Nadella, a averti que l'expansion des centres de données d'IA mettait à rude épreuve les réseaux électriques et a déclaré que le secteur avait besoin de la confiance du public pour apporter de nombreux avantages économiques.

Il a également averti que les gains de l'IA ne devraient pas être concentrés sur quelques entreprises.

Lire la suite :

• Le délai de livraison de la Tesla Model Y L est prolongé jusqu'en février 2026 en raison de la baisse des ventes

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo publiée avec l'aimable autorisation de Shutterstock