Grok: Governo brasileiro impõe que X proíba criação de imagens sexuais

A polêmica ferramenta de inteligência artificial Grok, integrada à rede social X, tornou-se alvo prioritário das autoridades brasileiras nesta quarta-feira (11). O Ministério Público Federal, a ANPD (Autoridade Nacional de Proteção de Dados) e a Senacon (Secretaria Nacional do Consumidor) ordenaram o bloqueio imediato da criação de imagens de caráter sexual pela plataforma.

A decisão visa impedir que usuários utilizem o assistente para gerar “nudes” falsos (deepnudes) a partir de fotos de pessoas reais, incluindo crianças e adolescentes, sem qualquer consentimento.

As entidades estabeleceram um prazo rígido de cinco dias para o cumprimento da ordem. Caso a determinação seja ignorada, a empresa de Elon Musk enfrentará multas pesadas e processos judiciais.

Falhas de segurança no Grok geram ultimato

Embora o X afirme ter eliminado milhares de publicações ofensivas após recomendações feitas em 18 de janeiro, as autoridades consideram a resposta insuficiente. A fiscalização apontou falta de transparência e eficácia nas ações da empresa.

Exames técnicos recentes demonstraram que as barreiras de segurança do Grok continuam vulneráveis. O sistema ainda permite a produção e circulação de conteúdo erotizado, o que motivou a nova denúncia das entidades reguladoras.

As instituições responsáveis pela notificação incluem:

• Ministério Público Federal (MPF);
• Autoridade Nacional de Proteção de Dados (ANPD);
• Secretaria Nacional do Consumidor (Senacon).

“O X deve implementar de forma imediata medidas aptas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes, assim como de adultos que não tenham expressado seu consentimento.”

Persistência de crimes digitais na plataforma

A gravidade da situação aumentou após apurações da imprensa e de observatórios digitais. Uma reportagem da Folha de S.Paulo identificou que, mesmo após a primeira notificação, a rede social manteve no ar vídeos simulando estupro e abuso sexual.

Em apenas uma semana, foram encontrados mais de 20 vídeos aludindo à violência sexual e centenas de postagens sobre parafilias envolvendo pessoas inconscientes. Quando gerado via Grok sem autorização, esse material configura crime e violação grave de privacidade.

O Centro para Combater o Ódio Digital (CCDH) estima que o chatbot gerou aproximadamente três milhões de imagens sexualizadas em poucos dias. Usuários conseguiam burlar o sistema com comandos simples, como “coloque um biquíni nela” ou “tire a roupa dela”.

Histórico de conflitos e regulação

Esta não é a primeira vez que a gestão de Elon Musk entra em conflito com a legislação brasileira. Em 2024, o antigo Twitter permaneceu suspenso por 40 dias após descumprir ordens do Supremo Tribunal Federal (STF) relacionadas ao combate à desinformação.

Agora, o foco regulatório recai sobre a responsabilidade das IAs generativas. A exigência atual busca forçar a plataforma a adotar filtros robustos que impeçam o uso malicioso da tecnologia.

Se as correções não forem aplicadas dentro do prazo estipulado, o governo brasileiro sinaliza que adotará todas as medidas legais cabíveis para restringir o funcionamento irregular do Grok.