Zürcher Nachrichten - Femmes et enfants dénudés avec l'IA Grok: X prend des mesures mais reste sous pression

"Nous prenons acte des mesures supplémentaires adoptées par X pour interdire à Grok de générer des images sexualisées de femmes et d'enfants", a déclaré mercredi Thomas Regnier, un porte-parole de la Commission européenne, sans préciser de quelles mesures il s'agissait.

"Nous évaluerons attentivement ces changements afin de nous assurer qu'ils protègent efficacement les citoyens de l'Union européenne", a-t-il ajouté.

Selon le porte-parole, "si ces changements n'étaient pas effectifs, la Commission n'hésiterait pas à utiliser tout" son arsenal législatif. Celui-ci lui permet d'infliger, entre autres, des astreintes financières, voire de suspendre le réseau social sur le sol européen.

"J'ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique", a déclaré mercredi le Premier ministre Keir Starmer devant le Parlement.

"Si c'est le cas, c'est une bonne chose, mais nous ne reculerons pas et ils doivent agir", a-t-il mis en garde, rappelant que l'enquête indépendante ouverte lundi par une autorité de régulation britannique se poursuivait.

Ni le réseau social d'Elon Musk, chantre revendiqué de la liberté d'expression, ni xAI, son entreprise qui programme Grok, n'ont officiellement communiqué mercredi sur de nouvelles mesures.

Interrogé par l'AFP, Grok a généré cette réponse: "xAI a imposé des restrictions sur la génération par Grok de deepfakes (montages hyper-réalistes) sexualisés à la suite d'un tollé mondial et d'enquêtes, mais aucune interdiction totale n'a été annoncée".

Depuis le 9 janvier, la fonctionnalité de génération d'images de Grok avec peu de restrictions, surnommée par xAI le "spicy mode" (épicé), a été désactivée pour les utilisateurs non payants de X.

"Le +Spicy Mode+ semble partiellement fonctionnel, bien que limité dans certaines régions", a ajouté le robot.

- enquête californienne -

L'indignation internationale a pris de l'ampleur ces dernières semaines au vu des milliers d'images à caractère sexuel générées par Grok.

Certains utilisateurs de X se sont servis de Grok pour poster ou répondre à des messages contenant des photos de femmes, les accompagnant d'une instruction comme "Mets-la en bikini" pour générer en réponse publique un montage hyper-réaliste ("deepfake" en anglais).

Le scandale a conduit à la suspension de Grok en Indonésie et en Malaisie ce week-end. L'Inde a affirmé avoir fait retirer des milliers de contenus sur X et plusieurs procédures ont été ouvertes dans le monde, notamment en France et, depuis mercredi, en Californie.

Le procureur de Californie -- un élu démocrate qui s'affiche comme un opposant face aux velléités de l'administration Trump d'empêcher une régulation de l'IA -- a annoncé lancer sa propre enquête "afin de déterminer si, et comment, xAI a violé la loi".

"xAI semble faciliter la production à grande échelle de détournements non consentis d'images intimes, utilisées pour harceler des femmes et des jeunes filles sur internet, notamment via le réseau social X", accuse le communiqué du procureur Rob Bonta, qui brigue sa réélection en novembre pour un second mandat.

"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", ajoute-t-il, assurant avoir "une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique"

Le procureur californien reproche à xAI d'avoir utilisé son "spicy mode" "comme un argument marketing, ce qui a, sans surprise, provoqué une prolifération de contenus sexualisés sans le consentement des personnes".

"Il est rapporté que xAI a aussi produit des images réalistes d'enfants impliqués dans des actes sexuels", dénonce encore le communiqué.

La semaine dernière, une analyse menée par l'ONG AI Forensics sur plus de 20.000 images générées par Grok a révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineurs.

Toute personne utilisant Grok pour "créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal", s'est défendu la semaine dernière Elon Musk dans un message posté sur X.

F.Carpenteri--NZN