Anthropic découvre des campagnes de surveillance et de fraude automatisées menées par Claude

L'intelligence artificielle ne se limite pas à aider les acteurs malveillants à écrire du code ou à rédiger des messages. Il fait de plus en plus partie des mécanismes opérationnels à l'origine des cyberattaques, des campagnes de surveillance, des opérations d'influence politique et des fraudes.

C'est le principal avertissement d'Anthropic dans un nouveau rapport de renseignement sur les menaces concernant les activités malveillantes impliquant ses modèles Claude entre décembre 2025 et août 2026.

« Nous publions ce travail parce que nous pensons que nous avons la responsabilité de divulguer les utilisations malveillantes de nos services. À mesure que les modèles deviendront de plus en plus performants, leurs risques augmenteront, à moins que les développeurs d'IA et les défenseurs de la société n'agissent pour les rendre plus sûrs. Les cas vont d'un réseau de fausses applications de rencontres conçues pour frauder les utilisateurs à des systèmes de surveillance conçus pour identifier et surveiller les dissidents », a déclaré Anthropic.

Le rapport documente des cas impliquant des groupes présumés parrainés par l'État, des criminels motivés par l'argent, des fournisseurs de services de surveillance commerciale et des opérateurs politiques dans sept domaines, notamment les cyberopérations, la surveillance, les campagnes d'influence, les escroqueries, l'utilisation abusive de produits biologiques et la mise au point d'armes classiques.

L'IA est en train de devenir une force de travail opérationnelle

Le changement le plus significatif, selon Anthropic, est que l'IA peut désormais remplacer une partie de la main-d'œuvre humaine qui rendait auparavant les opérations malveillantes sophistiquées coûteuses et difficiles à exécuter.

Dans un cas, un consultant travaillant avec les autorités de sécurité nationales du Mali a fait appel à Claude pour l'aider à concevoir une plateforme de surveillance capable de surveiller les communications entre les trois opérateurs mobiles du pays. En Iran, des acteurs ont utilisé Claude pour créer un logiciel de surveillance et une extension de navigateur malveillante conçue pour récolter des identités sur les réseaux sociaux.

Les implications vont au-delà des gouvernements. Anthropic a découvert une opération basée en Chine qui a utilisé Claude pour alimenter plus de 4 700 personnages IA sur un réseau de plus de 20 applications de rencontres. Les faux profils ont interagi avec au moins 25 000 personnes pendant deux semaines en avril, générant environ 2,36 millions de messages.

Le rapport met également en lumière l'automatisation croissante des campagnes d'influence politique. Anthropic a identifié neuf opérations d'influence en provenance de Russie, d'Iran, de Turquie et d'autres régions qui ciblaient des publics sur six continents. Les campagnes ont utilisé Claude pour créer de faux profils sur les réseaux sociaux, créer des sites d'information et générer du contenu politique, avec plusieurs opérations programmées en période électorale.

Dans le cadre d'une campagne axée sur la Malaisie, les acteurs ont utilisé Claude pour créer un système analysant les données du recensement et des élections dans les 222 circonscriptions parlementaires. L'opération a géré plus de 1 000 faux comptes X et a utilisé l'IA pour générer des allégations fabriquées contre des personnalités politiques.

L'économie des attaques basées sur l'IA

Selon Anthropic, le danger n'est pas nécessairement que l'IA décide indépendamment qui cibler. Les humains prennent toujours la plupart des décisions les plus importantes, notamment la sélection des cibles et la monétisation.

Au contraire, l'IA modifie l'économie des activités malveillantes. Une automatisation accrue peut réduire la main-d'œuvre, l'expertise et les coûts nécessaires à l'exécution d'une opération tout en permettant aux attaquants de travailler plus rapidement et à plus grande échelle. Selon Anthropic, cela pourrait permettre de cibler des cibles auparavant peu rentables et d'encourager des attaques à volume plus élevé et à moindre contact.

Anthropic a déclaré avoir interdit les comptes liés aux opérations décrites dans le rapport et renforcé ses systèmes de détection, tout en partageant des informations avec d'autres sociétés d'IA et les autorités le cas échéant.

L'entreprise a toutefois reconnu l'existence d'une limite importante : la fermeture de l'accès à Claude n'élimine pas nécessairement la menace sous-jacente.

Pour les entreprises d'IA, cela augmente les enjeux en matière de garanties. Le défi ne consiste plus simplement à empêcher un chatbot de répondre à une question manifestement dangereuse, mais à détecter le moment où des fonctionnalités apparemment ordinaires sont intégrées dans une opération à l'échelle industrielle.

Photo : Shutterstock