Le chef des services espions chinois prévient que l'IA pourrait menacer la « sécurité du régime » : les deepfakes, les cyberattaques et la guerre de l'IA figurent parmi les 6 risques majeurs

Le chef du renseignement chinois a averti que l'intelligence artificielle pourrait présenter des risques majeurs pour la sécurité politique, les infrastructures critiques, les données, la stabilité sociale et les capacités militaires du pays, appelant à des contrôles plus stricts sur le développement de l'IA.

Chen Yixin, le ministre chinois de la Sécurité d'État, a identifié six risques majeurs liés à l'IA dans un article publié dans China Cyberspace, une revue gérée par l'Administration chinoise du cyberespace. Sa principale préoccupation était la « sécurité du régime », Chen avertissant que les deepfakes, le contenu généré par l'IA et les réseaux en ligne automatisés pourraient propager des rumeurs politiques, des informations nuisibles et une guerre cognitive, menaçant ainsi la sécurité politique, institutionnelle et idéologique de la Chine, a rapporté Business Insider dimanche.

Six risques liés à l'IA

Chen a également averti que l'IA pourrait rendre les cyberattaques contre des infrastructures critiques plus efficaces. Il a évoqué le risque de fuites de données à grande échelle impliquant des données nationales, des secrets commerciaux et des informations personnelles des citoyens.

Parmi les autres risques, citons les déséquilibres technologiques causés par les monopoles et les systèmes technologiques fermés, les perturbations de la gouvernance sociale et de l'ordre public, ainsi que les changements dans la guerre, car le ciblage de précision basé sur l'IA confère aux adversaires des avantages sur le champ de bataille.

Chen a appelé à des « directives de développement » plus strictes pour l'IA et a exhorté Pékin à accélérer la mise en place d'un système de prévention et de contrôle des risques de sécurité. La Chine devrait promouvoir le « développement sain et ordonné » de l'IA grâce à une « gouvernance à haute efficacité », selon le rapport.

Course et sécurité en matière d'IA

Cet avertissement intervient alors que les inquiétudes concernant les risques avancés liés à l'IA s'intensifient à l'échelle internationale. Le chercheur anthropique Evan Hubinger a récemment déclaré qu'il évaluait personnellement à plus de 10 % les chances que l'IA anéantisse l'humanité d'ici dix ans, tout en prévenant que l'industrie n'avait pas encore de plan pour résoudre le problème de l'alignement sur la superintelligence.

Le PDG d'Anthropic, Dario Amodei, a décrit séparément la Chine comme le « dilemme le plus difficile » dans les efforts visant à ralentir le développement de l'IA, citant les avantages militaires que les pays peuvent obtenir en allant de l'avant. Il a appelé à une meilleure coordination entre les entreprises d'IA et les gouvernements.

Chen a déclaré que l'IA devrait être développée « avec le bien-être de toute l'humanité comme principe directeur ». Il a également appelé à résister à « l'hégémonisme, aux barrières technologiques et aux blocs exclusifs » et à un « système international de règles d'IA juste et ouvert ».

Crédit photo : Shutterstock