Grok terá restrição a imagens sexuais em países com lei

Grok, a inteligência artificial da plataforma X, recebeu novas travas de segurança nesta quarta-feira (14) para coibir a criação de imagens sexualizadas a partir de fotos reais. A rede social, liderada por Elon Musk, implementou as mudanças como resposta direta às críticas internacionais sobre a facilidade com que a ferramenta produzia material abusivo envolvendo mulheres e menores de idade.

A empresa oficializou que aplicará restrições geográficas rigorosas. Em regiões onde a legislação proíbe a manipulação visual de indivíduos em trajes íntimos ou situações similares, o sistema bloqueará a execução do comando.

Como o Grok impedirá a edição de fotos reais

A equipe de segurança da plataforma detalhou que as barreiras são tecnológicas e imediatas. O objetivo central é neutralizar a capacidade do Grok de editar registros fotográficos para incluir roupas provocativas, como biquínis, sem o consentimento da pessoa retratada.

Em comunicado, a X declarou:

“Estabelecemos medidas tecnológicas para evitar que o Grok edite imagens de pessoas reais em roupas consideradas provocativas, como biquínis.”

Essa restrição abrange toda a base de usuários, incluindo assinantes do serviço premium. Anteriormente, a empresa tentou limitar a geração de imagens apenas a contas pagas, mas a estratégia falhou em conter a disseminação de conteúdo não consensual, gerando críticas de especialistas e autoridades governamentais.

Investigações na Califórnia e dados alarmantes

O cerco jurídico contra a xAI, empresa responsável pela tecnologia, intensificou-se com a atuação de Rob Bonta, procurador-geral da Califórnia. A investigação em curso busca determinar se a empresa facilitou a criação em massa de deepfakes íntimos, frequentemente utilizados como ferramenta de assédio online.

Gavin Newsom, governador da Califórnia, também cobrou responsabilidade direta da empresa pelas ações prejudiciais da ferramenta. Bonta reforçou a postura do estado:

“Nossa política é de tolerância zero quanto à produção e disseminação, por meio da IA, de imagens íntimas não consentidas ou material pedopornográfico.”

Um estudo técnico da ONG AI Forensics trouxe números que validam a preocupação global sobre o comportamento da IA:

• Mais de 50% das imagens geradas apresentavam indivíduos com pouca roupa.
• 81% dessas representações eram de mulheres.
• 2% do conteúdo exibia aparência juvenil.

Pressão internacional e bloqueios ao chatbot

A facilidade com que o Grok atendia a solicitações explícitas, como comandos para “tirar a roupa” de alguém, mobilizou uma coalizão de 28 organizações civis. O grupo enviou cartas à Apple e ao Google, exigindo a remoção do aplicativo X de suas lojas virtuais devido à proliferação de material abusivo.

A reação governamental foi imediata em diversos países:

• Bloqueios Totais: Indonésia, Malásia e Filipinas suspenderam o acesso ao chatbot.
• Remoção de Conteúdo: A Índia eliminou milhares de postagens e contas vinculadas a essas violações.
• Ação Europeia: Sarah El Hairy, comissária francesa para a infância, acionou autoridades da União Europeia exigindo a interrupção total desse tipo de produção visual.

Reguladores britânicos e europeus consideram que as tentativas de monetização via restrição a assinantes não resolvem o problema de segurança. O futuro operacional da ferramenta depende agora de sua adequação às leis de privacidade, garantindo que o Grok não seja mais utilizado como instrumento de violação de direitos humanos.