Zürcher Nachrichten - Adolescentes processam xAI nos EUA por imagens sexualizadas geradas por chatbot

A ação está relacionada à proliferação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A publicação dessas imagens em redes sociais provocou uma onda de indignação mundial e levou a investigações em vários países e no estado americano da Califórnia.

O processo cita o caso de uma pessoa, já detida, que usou o chatbot Grok para transformar fotos comuns das jovens, retiradas de redes sociais ou outras fontes, em imagens hiper-realistas sexualizadas.

As montagens circularam no X, Discord e Telegram, e depois migraram para a dark web como moeda de troca para outros conteúdos de pornografia infantil, diz a ação, movida em um tribunal federal de San José.

"Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível”, descreveu em comunicado a mãe de uma das adolescentes, do estado do Tennessee.

Uma das autoras da ação tem pesadelos recorrentes, e outra precisa de remédios para dormir e tem medo de comparecer à própria cerimônia de formatura.

A xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar as proteções usadas por outros grandes atores da IA contra a pornografia infantil, denunciaram as advogadas.

Segundo um estudo do Center for Countering Digital Hate (CCDH), o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, das quais 23.000 representavam menores de idade. Em resposta ao escândalo, a xAI restringiu em janeiro exclusivamente aos assinantes a geração de imagens pelo Grok.

U.Ammann--NZN