Zürcher Nachrichten - Aumenta a pressão sobre Musk por geração de imagens sexuais por IA

As Filipinas se tornaram o terceiro país a proibir o Grok, depois de seus vizinhos do Sudeste Asiático, Malásia e Indonésia, enquanto Reino Unido e França pediram que sejam respeitadas suas legislações.

Vários países exigiram da xAI, empresa desenvolvedora do Grok, mudanças no chatbot após ele ser usado para gerar uma avalanche de imagens obscenas de mulheres e menores.

A X anunciou na quarta-feira que "vai bloquear geograficamente a opção" de criar imagens de pessoas em "biquíni, roupa íntima e trajes semelhantes" nos países onde a prática for proibida.

O anúncio chega depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por "facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", segundo um comunicado.

"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", disse a equipe de segurança do X em comunicado.

O primeiro-ministro britânico, Keir Starmer, celebrou nesta quinta-feira a decisão do X de "agir para cumprir plenamente a legislação britânica".

"Isso deve ser feito imediatamente", afirmou. "Se precisarmos reforçar ainda mais as leis existentes, estamos dispostos a fazê-lo", acrescentou.

Enquanto isso, o chefe da divisão de crimes cibernéticos das Filipinas, Renato Paraiso, afirmou que o bloqueio do aplicativo deve entrar em vigor nesta quinta-feira.

Ele ressaltou que o anúncio da X de bloquear a função de edição de fotos não altera a decisão de proibir o chatbot.

"Precisamos limpar a internet agora, porque está surgindo muito conteúdo tóxico, especialmente com a chegada da IA", afirmou o secretário de Telecomunicações das Filipinas, Henry Rhoel Aguda.

- Modo picante -

O chamado "modo picante" do Grok permite que usuários criem deepfakes com instruções simples de texto, como "coloque um biquíni" ou "tire a roupa".

Uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20.000 imagens geradas pelo Grok revelou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.

A comissária francesa para a infância, Sarah El Hairy, anunciou que encaminhou as imagens geradas pelo Grok ao Ministério Público, ao regulador de mídia Arcom e à União Europeia, que pediu a suspensão total da geração desse tipo de conteúdo.

O governador da Califórnia, Gavin Newsom, afirmou na quarta-feira que a decisão "vil" da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a pedir ao procurador-geral do estado, Rob Bonta, que levasse o caso à Justiça.

"Temos tolerância zero com a criação e a disseminação, por meio de IA, de imagens íntimas não consentidas ou de material pedopornográfico", acrescentou o procurador.

Bonta disse que a investigação vai determinar se a xAI violou a lei estadual, depois que as imagens explícitas foram "usadas para assediar pessoas na internet".

- Postagens apagadas -

Para aumentar a pressão sobre a empresa de Musk, uma coalizão de 28 grupos da sociedade civil enviou na quarta-feira cartas abertas aos diretores executivos da Apple e do Google pedindo que proíbam o Grok e o X em suas lojas de aplicativos.

Na semana passada, a xAI tentou conter as críticas ao anunciar que as opções de geração e edição de imagens no X estavam "limitadas a assinantes pagos".

A Indonésia bloqueou no sábado o acesso ao Grok, e a Malásia fez o mesmo no dia seguinte.

H.Roth--NZN