Mulher registra BO após IA do X editar foto de biquíni

A controversa IA Grok, ferramenta de inteligência artificial integrada à plataforma X, tornou-se o centro de uma investigação policial no Rio de Janeiro. Uma mulher de 31 anos registrou um boletim de ocorrência na última sexta-feira após ter uma fotografia pessoal manipulada digitalmente sem seu consentimento. A imagem, originalmente um registro casual, foi alterada pelo sistema para simular o uso de um biquíni, expondo a vítima na rede social.

O caso envolve a jornalista Julie Yukari, que identificou a modificação em uma foto de Ano Novo onde aparecia ao lado de seu gato. Ao revisar as interações na postagem, ela notou um pedido explícito de outro usuário para que a tecnologia “vestisse” a imagem com trajes de banho. A facilidade com que a IA Grok atendeu ao comando expõe falhas graves nos filtros de moderação da empresa, gerando preocupação imediata sobre a privacidade feminina na internet.

O modus operandi da IA Grok nas redes

Apurações da imprensa indicam um padrão perturbador no uso da ferramenta. Perfis majoritariamente masculinos utilizam comandos simples, muitas vezes iniciados pela frase “hey Grok”, para solicitar edições em fotos de terceiros. O algoritmo processa o pedido e gera versões sexualizadas de imagens comuns, que são republicadas instantaneamente no feed.

A ausência de barreiras éticas eficazes permitiu que a IA Grok fosse utilizada para fins ainda mais obscuros. Além da manipulação de corpos de mulheres adultas, a criação de imagens sugestivas envolvendo nudez infantil a partir de solicitações de um único usuário. Embora algumas postagens tenham sido removidas após denúncias massivas, a resposta da plataforma tem sido lenta.

A gravidade da situação exige atenção redobrada, pois o sistema automatizado facilita a disseminação de:

• Deepfakes não consensuais;
• Conteúdo sexualmente explícito gerado artificialmente;
• Violações diretas de direitos de imagem.

Reação da plataforma e de Elon Musk

A repercussão negativa forçou um posicionamento, ainda que indireto, da empresa. Enquanto o canal oficial de suporte do X manteve silêncio sobre pedidos de imprensa, o perfil oficial da ferramenta admitiu “falhas na segurança” em interação com usuários e prometeu correções urgentes. No entanto, o controle sobre o que a IA Grok produz ainda parece instável.

Elon Musk, proprietário da rede social, reagiu inicialmente com sarcasmo. O bilionário compartilhou um meme de uma torradeira vestindo biquíni, rindo da situação. Posteriormente, diante da escalada do problema, Musk mudou o tom e publicou um alerta: usuários que utilizarem a inteligência artificial para criar conteúdo ilegal enfrentarão as mesmas consequências jurídicas aplicáveis a quem publica tais materiais manualmente.

Consequências jurídicas e penalidades

Especialistas jurídicos alertam que a internet não é uma zona livre de legislação. A advogada Isabela Godoy orienta que as vítimas processem a plataforma para forçar a remoção do conteúdo via ordem judicial e busquem indenizações. Contudo, a responsabilidade criminal recai pesadamente sobre o indivíduo que opera a IA Grok para fins ilícitos.

“A responsabilidade penal não recai sobre a plataforma; cabe à pessoa que fez o pedido ou divulgou a imagem responder criminalmente”, esclarece Godoy.

A legislação brasileira prevê punições severas para crimes digitais desta natureza:

• Edição não autorizada: Penas variam de seis meses a um ano de prisão.
• Conteúdo envolvendo vulneráveis: Para produção ou compartilhamento de material sexual envolvendo menores, a reclusão pode variar de quatro a dez anos.

O episódio serve de alerta crítico para a necessidade de regulamentação das ferramentas generativas. A segurança dos usuários depende de barreiras éticas robustas que, até o momento, mostram-se frágeis na arquitetura da IA Grok.