Zürcher Nachrichten - Personnes dénudées avec l'IA Grok: enquête sur xAI ouverte en Californie

"xAI semble faciliter la production à grande échelle de détournements non consentis d'images intimes (deepfakes), utilisées pour harceler des femmes et des jeunes filles sur internet, notamment via le réseau social X", accuse le communiqué du procureur démocrate Rob Bonta, dont les investigations s'ajoutent aux multiples enquêtes ouvertes dans plusieurs pays sur cette affaire.

En conséquence, "mon bureau annonce aujourd'hui formellement une enquête sur xAI afin de déterminer si, et comment, xAI a violé la loi", déclare le procureur Bonta, cité dans le communiqué.

"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", ajoute-t-il: "Nous avons une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique".

Un mouvement d'indignation internationale a pris de l'ampleur ces dernières semaines autour de Grok et de la possibilité qu'il offre de modifier des images, en particulier celles publiées sur le réseau social X, également propriété d'Elon Musk.

Certains utilisateurs en ont profité pour poster ou répondre à des messages contenant des photos de femmes, les accompagnant d'une instruction comme "Mets-la en bikini" pour recevoir en échange un montage hyper-réaliste ("deepfake" en anglais).

Depuis le 9 janvier, la fonctionnalité de création d’images a été désactivée pour les utilisateurs non payants de X, qui affirme prendre des mesures pour supprimer ces contenus illégaux et suspendre les comptes concernés.

Le procureur californien reproche a xAI d''avoir vanté la possibilité de dénuder les personnes "comme un argument marketing, ce qui a sans surprise provoqué une prolifération de contenus sexualisés sans le consentement des personnes concernées".

"Il est rapporté qu'xAI a aussi produit des images réalistes d'enfants impliqués dans des actes sexuels", dénonce encore le communiqué.

La semaine dernière, une analyse menée par l'ONG AI Forensics sur plus de 20.000 images générées par Grok a révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineurs.

L’Indonésie et la Malaisie ont suspendu l'accès à Grok ce week-end, tandis que l'Inde a affirmé avoir fait retirer des milliers de contenus sur X. Des enquêtes sont en cours dans plusieurs pays, dont le Royaume-Uni et la France.

T.Furrer--NZN