Grok restringe geração de imagens no X após críticas severas

O Grok, chatbot de inteligência artificial desenvolvido pela xAI de Elon Musk, sofreu alterações significativas em suas diretrizes de uso na rede social X. A implementação de novas travas de segurança ocorre após uma onda de reações negativas sobre a facilidade com que a ferramenta criava imagens sexualizadas sem o consentimento das vítimas.

Recentemente, a plataforma enfrentou uma crise de imagem quando usuários começaram a utilizar o Grok para editar fotos de pessoas reais. As solicitações incluíam a remoção digital de roupas e a inserção de indivíduos em poses explícitas. Esse comportamento acendeu um alerta vermelho sobre violação de privacidade e abuso digital, pressionando a empresa a tomar atitudes imediatas.

Novas restrições de segurança no Grok e assinaturas

Como resposta direta à controvérsia, a equipe de desenvolvimento anunciou em 9 de setembro que as funcionalidades de geração e edição de imagens pelo Grok agora são exclusivas para assinantes pagantes. A medida visa reduzir o volume de spam visual e impedir que o bot publique automaticamente essas imagens em respostas a comentários ou tweets de terceiros.

No entanto, testes realizados pela agência Reuters confirmaram que a restrição funciona parcialmente. Ao solicitar que o Grok transformasse uma foto em uma imagem de biquíni, o sistema bloqueou a ação para contas gratuitas. Contudo, brechas operacionais permanecem:

• Acesso Pago: Assinantes ainda podem criar imagens controversas na aba dedicada do Grok e publicá-las manualmente no X.
• App Independente: O aplicativo autônomo da xAI continua permitindo a geração de imagens sem a exigência de assinatura na rede social.

Posicionamento da xAI e reação regulatória

A postura da empresa diante da crise foi combativa. Ao ser questionada sobre os riscos de segurança do Grok, a xAI enviou uma resposta automática à imprensa classificando a cobertura jornalística como “mentiras da mídia tradicional”. Paralelamente, Elon Musk declarou que usuários que utilizarem a IA para gerar conteúdo ilegal enfrentarão as mesmas penalidades aplicadas a quem faz upload direto de material criminoso.

A solução de cobrar pelo recurso não agradou aos reguladores. A Comissão Europeia manifestou profunda preocupação, classificando como inaceitável a exposição de mulheres e crianças no ambiente digital. Segundo um porta-voz do bloco, limitar a geração de imagens no Grok apenas a pagantes não altera o problema central: o conteúdo abusivo continua sendo gerado, independentemente do status da assinatura.

“A proliferação dessas imagens representa a industrialização do assédio sexual.” — Wolfram Weimer, Ministro alemão da mídia.

Diversos governos iniciaram investigações sobre as práticas da plataforma, exigindo ações concretas de remoção de conteúdo ilegal. O cenário aponta para um endurecimento das regras globais sobre como ferramentas como o Grok devem operar para garantir a integridade dos usuários.