Chamath Palihapitiya affirme que les agents d'IA vont saper la stratégie logicielle « ascendante » en raison des préoccupations liées aux « fuites IP/alpha »

Le capital-risque Chamath Palihapitiya a prédit que l'essor des agents d'IA et les préoccupations croissantes des entreprises en matière de sécurité des données transformeront fondamentalement la façon dont les entreprises achètent des logiciels.

Palihapitiya affirme que l'IA finira « de bas en haut »

Mardi, dans un billet sur X, Palihapitiya a fait valoir que la stratégie de commercialisation ascendante (GTM), longtemps populaire, dans le cadre de laquelle les employés adoptent des logiciels avant que les entreprises n'achètent des licences d'entreprise, deviendrait de plus en plus inefficace à l'ère de l'IA.

« Dans un monde d'agents, de harnais et d'applications, la base vers le haut s'avérera être la pire décision stratégique en matière de GTM de la dernière décennie », a-t-il écrit.

Selon lui, l'IA produirait rapidement « clone après clone » des outils logiciels ascendants, réduisant ainsi leur valeur stratégique tout en intensifiant les préoccupations concernant la souveraineté de l'IA.

Selon Palihapitiya, les entreprises s'inquiéteront de plus en plus du fait que les employés utilisant des applications d'IA non approuvées pourraient exposer des informations propriétaires, ou « alpha », à des systèmes d'IA tiers.

Il a également prédit que les directeurs financiers joueraient un rôle plus important dans la restriction des achats de logiciels.

« Le dernier clou dans le cercueil sera celui des directeurs financiers qui envelopperont les cartes d'entreprise avec des filtres intelligents, de sorte que tout outil présentant une fuite IP/alpha en aval ne soit de toute façon pas autorisé », a écrit Palihapitiya.

Risques liés à la cybersécurité liés

Les commentaires de Palihapitiya interviennent alors que la sécurité de l'IA est devenue une priorité croissante dans l'industrie.

La semaine dernière, le PDG de Hugging Face, Clem Delangue, a appelé à la divulgation obligatoire des cyberattaques liées à l'IA, faisant valoir que la transparence et l'accès à des outils défensifs étaient essentiels pour améliorer la sécurité de l'IA.

Il a indiqué que les incidents impliquant OpenAI, Hugging Face et Anthropic montraient que limiter la publication de modèles d'IA n'éliminerait pas les risques et a exhorté les entreprises à partager les « traces des agents » afin de déterminer si les défaillances étaient causées par des humains, des systèmes ou l'IA.

Anthropic a indiqué que ses modèles Claude AI avaient accédé à des systèmes appartenant à trois entreprises extérieures lors de tests de cybersécurité après qu'une erreur de configuration ait fourni un accès Internet involontaire.

L'entreprise a examiné plus de 140 000 dossiers de tests, identifié trois incidents et en a informé les organisations concernées.

Plus tôt, Aaron Levie, PDG de Box Inc. (NYSE : BOX), avait averti que les agents d'IA avancés pourraient créer de nouveaux défis de sécurité en découvrant de manière autonome les vulnérabilités et en naviguant dans les systèmes.

Selon lui, les entreprises devraient utiliser davantage de défenses alimentées par l'IA, car les attaquants exploitent de plus en plus les capacités de l'IA.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo reproduite avec l'aimable autorisation de CarlavanWagoner/Shutterstock.com