FR
Nvidia et Palantir se retirent des modèles anthropiques par crainte que l'IA ne dévoile des secrets d'entreprise
Nvidia Corp. (NASDAQ : NVDA), Palantir Technologies Inc. (NASDAQ : PLTR) et Booz Allen Hamilton Holding Corp. (NYSE : BAH) seraient en train de renforcer leur utilisation de modèles d'IA avancés en raison de préoccupations concernant la divulgation d'informations sensibles sur les entreprises.
Les entreprises exigent des garanties plus strictes ou abandonnent certains modèles avancés d'Anthropic et d'OpenAI, a rapporté The Information lundi.
Le problème est que les fournisseurs de modèles pourraient conserver les données des clients et des connaissances exclusives ou en tirer des enseignements.
Les actions de Nvidia ont chuté d'environ 3 % lundi en raison d'une vente plus importante d'actions liées à l'IA.
Friedberg dit qu'Ohalo quitte Claude
Friedberg a déclaré qu'Ohalo « abandonne Claude pour une grande partie de nos données sensibles » et réoriente ses activités vers des modèles gérés localement.
Il a également décrit plusieurs cas anecdotiques où de nouvelles idées scientifiques discutées avec un modèle semblaient refaire surface lorsqu'il a ensuite demandé une autre version provenant d'un compte rendu différent.
Friedberg a déclaré que sa préoccupation n'était pas seulement de divulguer des documents confidentiels, mais aussi de fournir aux fournisseurs d'IA des idées précieuses et un savoir-faire développés au sein d'une entreprise.
Nvidia et Palantir créent une alternative
Nvidia adopte déjà une approche similaire pour l'une de ses opérations les plus sensibles : sa chaîne d'approvisionnement.
La semaine dernière, Nvidia et Palantir ont dévoilé un système qui utilise le logiciel Palantir et les modèles ouverts Nemotron de Nvidia pour analyser les données de la chaîne d'approvisionnement de Nvidia. Nvidia est le premier client de cette technologie.
Nvidia affirme que les entreprises peuvent personnaliser les modèles à l'aide de données opérationnelles propriétaires tout en gardant le contrôle de leurs données, de leurs modèles et de l'emplacement du système.
Pour Nvidia, cela signifie utiliser l'IA pour capturer la façon dont ses planificateurs prennent leurs décisions sans transmettre ces connaissances de la chaîne d'approvisionnement à un fournisseur de modèles externe.
Anthropic répond à la pression des clients
Anthropic a introduit la conservation des données pendant 30 jours avec Fable 5 en juin afin de détecter les abus sur plusieurs sessions et comptes. L'entreprise affirme que les informations ne sont pas utilisées pour entraîner ses modèles.
Anthropic a par la suite reconnu que de nombreuses entreprises, en particulier dans les secteurs réglementés, avaient du mal à accepter l'exigence de rétention.
La solution qu'elle propose, Enterprise Frontier Safeguards, conservera les données d'activité utilisées pour la surveillance des abus dans une infrastructure cloud contrôlée par le client. Il sera déployé par étapes plus tard cet automne.
Les problèmes liés aux données n'ont pas réduit les attentes concernant l'introduction en bourse d'Anthropic. Polymarket estime toujours à 86 % les chances d'une cotation cette année.
Nvidia envisagerait également un investissement principal d'environ 10 milliards de dollars dans une offre qui pourrait valoriser Anthropic près de 2 billions de dollars.
Le débat fait écho à la récente mise en garde du PDG de Palantir, Alex Karp, selon laquelle les entreprises risquent de remettre aux fournisseurs d'IA leur « alpha » propriétaire ainsi que leurs données.
Photo : Shutterstock