XiAi fait face à de nouvelles allégations concernant le rôle de Grok dans la création de matériel de maltraitance d'enfants

XiAi d'Elon Musk fait face à une pression juridique croissante après qu'une femme identifiée comme Jane Doe 4 a intenté une action en justice accusant le chatbot Grok d'avoir permis la création de matériel d'abus sexuels sur des enfants.

Jane Doe 4 affirme que son beau-père a utilisé Grok pour manipuler une photo prise d'elle alors qu'elle avait 11 ans, générant plus de 7 000 images explicites, selon TechCrunch et initialement rapporté par le Washington Post. Elle a déclaré que son beau-père s'était suicidé deux jours après que les enquêteurs aient découvert les images lors d'une perquisition par les forces de l'ordre.

Benzinga a contacté xAi, qui fait désormais partie de SpaceX (NASDAQ : SPCX), pour obtenir des commentaires, mais n'a pas reçu de réponse au moment de la publication.

« L'accès illimité aux outils d'IA se répand rapidement »

Le procès intenté par JaneDoe 4 élargit une affaire déposée en mars par trois adolescents du Tennessee, qui affirment que le chatbot IA Grok de l'entreprise a généré des images sexualisées d'eux sans leur consentement.

Les mineurs, identifiés comme étant Jane Doe 1, 2 et 3, affirment que ces images modifiées ont été largement diffusées sur des plateformes telles que Discord, Telegram et d'autres services de partage de fichiers, ce qui a entraîné un traumatisme émotionnel durable et une atteinte à leur réputation.

Selon la plainte, XiaI n'a pas respecté les protocoles de sécurité standard lors du développement de Grok, permettant ainsi la création et la monétisation de contenus préjudiciables.

La fonction « Imagine » de Grok, qui permet de créer et de modifier des images et des vidéos, a suscité des critiques après des informations selon lesquelles des utilisateurs auraient pu générer des deepfakes sexualisés à grande échelle après la sortie d'un modèle en décembre. Apple a ensuite menacé de supprimer l'application à moins que des modifications ne soient apportées.

« L'accès illimité à ces outils se répand si rapidement. C'est prendre la vie de tous les jours et la transformer en abus sexuels sur des enfants », a déclaré Jane Doe 4.

Les plaignants demandent le statut de recours collectif pour cette affaire.

La sécurité de Grok sous surveillance

Plus tôt ce mois-ci, un juge fédéral a autorisé l'entrée en vigueur de la nouvelle loi du Minnesota interdisant les images de nu non consensuelles générées par l'IA, rejetant la demande d'injonction d'urgence de XiaI. Le juge de district américain Donovan Frank a déclaré que XiaI avait attendu quelques jours seulement avant l'entrée en vigueur de la loi pour demander réparation, affaiblissant ainsi son argument selon lequel elle était confrontée à un préjudice immédiat.

Frank a laissé ouverte la possibilité de bloquer la loi ultérieurement et a prévu une audience le 19 août sur la demande d'injonction préliminaire de XiaI. xAi soutient que cette mesure viole le Premier Amendement, tandis que la loi cible les plateformes qui autorisent ou diffusent des images « nudifiées » réalistes de personnes identifiables sans leur consentement.

En janvier, le gouverneur Gavin Newsom a condamné la société d'intelligence artificielle XiaI de Musk, exhortant les autorités de l'État à enquêter sur son chatbot Grok pour la création et la diffusion d'images sexuelles non consensuelles générées par l'IA impliquant des enfants.

Dans un billet publié sur X, Newsom a accusé l'entreprise de permettre à des prédateurs d'exploiter la technologie de l'IA.

« La décision de XiaI de créer et d'héberger un terrain propice à la diffusion par les prédateurs de deepfakes d'IA sexuellement explicites non consensuels, y compris des images qui déshabillent numériquement des enfants, est ignoble », a écrit Newsom.

Photo : Shutterstock