Zürcher Nachrichten - Femmes et enfants dénudés par l'IA Grok : l'UE ouvre une enquête visant le réseau social X

L'Europe ne "tolérera pas les comportements insensés" des plateformes numériques, comme "les fausses images dénudées de femmes et d'enfant", a affirmé la présidente de la Commission européenne Ursula von der Leyen, dans une déclaration à l'AFP.

"Notre position est claire: nous ne confierons pas le consentement et la protection de l'enfance à des plateformes technologiques pour qu'elles les violent et les monétisent", a assuré la cheffe de l'exécutif européen, ajoutant que "des mesures ont été prises, mais nous devons en faire plus protéger les citoyens, en ligne comme hors ligne".

Cette nouvelle enquête vise à vérifier si le réseau, anciennement connu sous le nom de Twitter, a enfreint les puissantes règles européennes sur le numérique qui lui imposent de protéger les utilisateurs contre les contenus illégaux.

L'exécutif européen a par ailleurs décidé d'étendre le périmètre d'une première enquête lancée en décembre 2023 contre X, toujours dans le cadre de sa législation sur les services numériques, le DSA (Digital services act).

En cause: une fonctionnalité permettant aux utilisateurs de demander à Grok de créer de fausses images dénudées à partir de photos réelles de mineurs ou de femmes.

- Des millions d'images sexualisées -

Face au tollé soulevé par la prolifération de telles images, des procédures ont déjà été lancées dans plusieurs pays, notamment en France et au Royaume-Uni, et l'accès à X a même été suspendu ou bloqué par plusieurs Etats.

Après avoir d'abord limité l'accès à cette fonctionnalité, X a annoncé mi-janvier un bridage de son outil d'IA dans les pays où la création de telles images sexuelles est illégale.

Selon une étude publiée par le Center for Countering Digital Hate, ONG qui dénonce fréquemment les pratiques de X, Grok a généré quelque trois millions d'images sexualisées de femmes et d'enfants sur une période de 11 jours seulement, soit 190 images par minute en moyenne.

Une autre analyse, réalisée par l'organisation AI Forensics, montrait que sur plus de 20.000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Parallèlement à la nouvelle procédure lancée lundi, la Commission européenne a en outre décidé d'étendre le périmètre d'une autre enquête lancée en décembre 2023 contre X, qui l'avait déjà poussée à infliger en décembre une amende de 120 millions d'euros au réseau d'Elon Musk.

- Menaces de Trump -

Le réseau social était dans le collimateur de l'Union européenne depuis plusieurs semaines en raison de ce scandale. Bruxelles avait pris une première mesure début janvier, en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu'à la fin de l'année.

Avec cette nouvelle procédure ciblant X, l'Europe prend le risque de s'attirer de nouvelles représailles de la part du président américain Donald Trump, alors que les tensions suscitées par sa volonté de s'emparer du Groenland viennent juste de s'apaiser.

M. Trump ne cesse d'accuser Bruxelles de cibler via sa législation numérique les champions américains de la tech. Son administration a pris des mesures en représailles fin décembre, en imposant des sanctions à l'ancien commissaire Thierry Breton, artisan du DSA, ainsi qu'à quatre autres personnalités européennes engagées pour une stricte régulation de la tech et contre la désinformation.

W.Vogt--NZN