ChatGPT: 1 milhão de usuários falam sobre planos de suicídio

A segurança do ChatGPT está sob intenso escrutínio após a trágica morte de Adam Raine, um adolescente da Califórnia, que tirou a própria vida no início deste ano. O caso levou os pais do jovem a mover uma ação judicial contra a OpenAI, alegando que o chatbot teria fornecido orientações específicas sobre como realizar o ato fatal.

Em um comunicado recente, a OpenAI revelou estatísticas alarmantes: mais de um milhão de usuários interagem semanalmente com o ChatGPT sobre temas relacionados a suicídio. A análise da companhia sugere que aproximadamente 0,15% dos usuários ativos em uma semana — de um universo de 800 milhões — têm diálogos que indicam planejamento ou intenção suicida explícita.

LEIA MAIS: DeepSeek: Nova IA promete reduzir custos pela metade

A Escala do Risco na Plataforma

Essa porcentagem, quando aplicada à base total de usuários semanais, traduz-se em cerca de 1,2 milhão de pessoas mantendo conversas potencialmente perigosas com o ChatGPT. A OpenAI também identificou que 0,07% desses usuários, o que representa quase 600 mil indivíduos, podem estar manifestando sinais de outras emergências de saúde mental, como psicose ou mania, ao usar o chatbot.

Resposta da OpenAI: Novas Medidas de Segurança

Após a ação judicial e a crescente preocupação pública, a OpenAI implementou ações significativas para aprimorar os mecanismos de proteção do ChatGPT. Entre as iniciativas estão o fortalecimento dos controles parentais e a introdução de novas diretrizes de segurança.

As atualizações no ChatGPT incluem o redirecionamento automático de discussões sensíveis para modelos de IA considerados mais seguros e um acesso facilitado a linhas diretas de apoio. Além disso, a plataforma passou a inserir lembretes sutis, incentivando pausas durante interações muito longas.

A OpenAI anunciou ainda que melhorou a capacidade do ChatGPT em reconhecer e responder adequadamente a essas situações de emergência. Para isso, a empresa está colaborando com mais de 170 especialistas da área da saúde mental, com o objetivo de minimizar drasticamente as respostas inadequadas do sistema.