Le PDG d'OpenAI, Sam Altman, déclare qu'Astra AI sera « généralement disponible », mais que les capacités cybernétiques nécessitent davantage de mesures de sécurité

Vendredi, le PDG d'OpenAI, Sam Altman, a déclaré que la société prévoyait de rendre son puissant modèle Astra AI largement disponible, mais que ses capacités cybernétiques avancées imposaient des mesures de sécurité supplémentaires avant sa sortie.

OpenAI ralentit la sortie d'Astra AI en raison des cyberrisques

Altman a déclaré dans un article sur X qu'Astra était un « modèle puissant » et qu'OpenAI s'efforçait de le rendre « généralement disponible ».

Le PDG d'OpenAI a déclaré que l'entreprise ne pensait pas que limiter les systèmes d'IA hautement performants à un petit groupe soit la bonne approche.

« Nous ne pensons pas que ce soit une bonne stratégie de confier des modèles puissants à quelques privilégiés », a déclaré Altman.

Cependant, il a indiqué que les capacités de cybersécurité d'Astra obligent OpenAI à consacrer plus de temps à la préparation du modèle pour un accès plus large.

« Compte tenu de ses cybercapacités, nous avons besoin d'un peu plus de temps pour le faire en toute sécurité », a déclaré Altman.

Il a ajouté : « Mais j'espère que ce ne sera pas trop long ! »

OpenAI a retardé la sortie d'Astra AI

OpenAI a ralenti le développement de son prochain modèle Astra AI après que des évaluations internes aient fait craindre qu'il ne dispose de capacités de cybersécurité avancées nécessitant des garanties supplémentaires.

La société a déclaré qu'elle « ne pouvait pas exclure la possibilité de cybercapacités critiques » dans Astra, ce qui a conduit à des tests étendus, à une surveillance renforcée et à des environnements d'évaluation plus isolés.

OpenAI a indiqué que le modèle n'était pas lié à de récents incidents de cybersécurité impliquant d'autres systèmes d'IA. Le calendrier de lancement n'est pas clair, car l'entreprise a privilégié la sécurité au déploiement rapide du modèle Frontier.

Cette décision est intervenue alors que les gouvernements et les entreprises d'IA étaient confrontés à une pression croissante pour établir des normes plus strictes pour l'évaluation et le déploiement de systèmes d'IA de plus en plus performants.

L'incident de sécurité de Meta AI met en lumière les cyberrisques

Auparavant, le modèle Muse Spark 1.1 de Meta Platforms, Inc. (NASDAQ : META) avait accidentellement accédé à Internet lors d'un test de cybersécurité, avait exploité une vulnérabilité tierce et modifié une partie de l'environnement interne d'une entreprise non identifiée.

Meta a ouvert une enquête, tandis que Irregular a déclaré que l'incident découlait d'une erreur d'évaluation et non d'une cyberattaque sophistiquée ou d'une évasion dans un bac à sable.

L'incident a aggravé les préoccupations croissantes en matière de sécurité de l'IA impliquant de grandes entreprises d'IA.

L'alliance Five Eyes a également averti qu'une IA plus avancée pourrait accélérer rapidement les cyberattaques en aidant les criminels à découvrir des vulnérabilités, à créer du code malveillant et à automatiser des opérations complexes, ce qui ne laisse aux entreprises que quelques mois pour se préparer.

Avertissement : Ce contenu a été partiellement produit à l'aide d'outils d'IA et a été révisé et publié par les éditeurs de Benzinga.

Photo reproduite avec l'aimable autorisation de Meir Chaimowitz/Shutterstock