La poussée de Nvidia en matière de sécurité de l'IA pourrait ralentir les choses de 25 %, prévient un analyste

Les agents d'IA sont conçus pour faire plus que répondre à des questions : ils peuvent accéder à des fichiers, utiliser des outils sur le lieu de travail et effectuer des tâches avec moins de supervision humaine. Mais donner autant de liberté aux logiciels crée un nouveau risque. Nvidia Corp (NASDAQ : NVDA) souhaite rendre l'utilisation de ces assistants numériques plus sûre, mais Karl Ackerman, analyste chez BNP Paribas, y voit un compromis potentiel : le temps d'exécution pourrait ralentir jusqu'à 25 %.

Donner plus de liberté à l'IA, mais avec des limites

Nvidia a récemment annoncé son architecture de référence OpenShell au GTC Berlin, qui s'appuie sur un logiciel open source conçu pour contrôler ce à quoi les agents d'IA peuvent accéder et faire. Le système est destiné à délimiter les agents lorsqu'ils travaillent, à surveiller leurs actions et à bloquer les activités qui enfreignent les règles de sécurité.

C'est important car un agent d'IA ne se contente pas de produire une réponse et de s'arrêter. Il peut accéder aux fichiers de l'entreprise, se connecter à des services en ligne, exécuter du code ou utiliser d'autres outils pour effectuer une tâche. S'il interprète mal une instruction ou s'il est manipulé, ces autorisations peuvent créer des risques allant au-delà d'une réponse trompeuse du chatbot.

L'approche de Nvidia place les contrôles de sécurité en dehors de l'agent d'IA lui-même, au lieu de compter sur l'agent pour contrôler son propre comportement. Son architecture de référence combine des systèmes informatiques pour exécuter l'IA avec des unités de traitement de données BlueField-4 et le cadre de sécurité Sentry de Nvidia pour surveiller l'activité et appliquer les restrictions.

Des sociétés telles que Cisco Systems, Inc. (NASDAQ : CSCO), CrowdStrike Holdings, Inc. (NASDAQ : CRWD), Microsoft Corp (NASDAQ : MSFT) et Google Cloud d'Alphabet Inc (NASDAQ : GOOGL) (NASDAQ : GOOG) travaillent avec cette architecture, a déclaré Nvidia.

Le coût potentiel de la sécurité

Dans sa note à la suite de GTC Berlin, Ackerman a déclaré qu'OpenShell pouvait ralentir le temps d'exécution de 25 %. Il s'agit d'une estimation d'un analyste et non d'un résultat de performance confirmé pour l'ensemble des tâches ou des déploiements.

Le compromis potentiel est simple : plus de contrôles peuvent signifier plus de travail avant qu'un agent d'IA ne soit autorisé à agir. Pour les entreprises, la question est de savoir si des garanties supplémentaires justifient un quelconque retard, en particulier lorsque les agents sont censés gérer des tâches urgentes ou effectuer des milliers de tâches à la fois.

Néanmoins, un agent plus lent mais contrôlé peut être plus utile à une entreprise qu'un système plus rapide capable d'accéder à des informations ou de prendre des mesures qui ne devraient pas être prises. Le solde réel dépendra de la tâche, des paramètres de sécurité et de la mise en œuvre.

Ce que cela signifie pour Nvidia

OpenShell reflète les efforts de Nvidia pour vendre plus que les puces qui alimentent l'IA. Alors que les entreprises passent du stade des tests d'assistants IA à celui de leur donner accès à de véritables systèmes d'entreprise, la sécurité pourrait occuper une place de plus en plus importante dans les dépenses des entreprises en matière d'IA.

Pour les investisseurs, la principale question est de savoir si les entreprises adoptent l'approche de Nvidia à grande échelle et si ses contrôles de sécurité peuvent protéger les agents sans nuire sensiblement aux performances. Les benchmarks indépendants et les déploiements auprès des clients seront plus importants que la seule annonce de lancement.

Si Nvidia parvient à rendre les agents d'IA plus sûrs sans les ralentir de manière significative, la sécurité pourrait devenir une autre raison pour laquelle les entreprises choisissent sa plate-forme plus large.

Crédit photo : Shutterstock