Google omite avisos vitais em buscas de saúde com IA

O Google enfrenta novas acusações de negligência ao minimizar alertas de que seus resumos de saúde, gerados por Inteligência Artificial, podem conter erros graves. Embora a gigante tecnológica alegue priorizar a segurança e o incentivo à ajuda profissional, a realidade observada na interface do buscador conta uma história diferente.

Uma apuração exclusiva do The Guardian identificou que a empresa não apresenta isenções de responsabilidade (disclaimers) imediatas quando usuários acessam conselhos médicos pela “AI Overview“. O sistema do Google exibe o alerta de segurança apenas se o internauta decidir expandir a resposta clicando em “Mostrar mais”.

Mesmo após essa ação, o aviso vital aparece posicionado no final do texto. A formatação utiliza uma fonte menor e com menos contraste que o restante do conteúdo, dificultando a leitura para quem busca orientação rápida.

Riscos da confiança automática no Google

Defensores dos direitos dos pacientes e especialistas em tecnologia expressaram profunda preocupação com a arquitetura da informação apresentada. Para Pat Pataranutaporn, pesquisador do MIT, a ausência de avisos proeminentes nas páginas do Google cria um cenário perigoso por dois motivos estruturais:

• Alucinações Tecnológicas: Modelos de linguagem podem inventar informações ou priorizar a satisfação do usuário em detrimento da precisão técnica.
• Sensação de Segurança: O destaque visual no topo da página desestimula a verificação de outras fontes ou a leitura completa até o aviso oculto.

“Os avisos servem como um ponto de intervenção crucial. Eles quebram a confiança automática e forçam o usuário a avaliar criticamente a informação recebida.” — Pat Pataranutaporn.

Histórico de falhas e defesa oficial

Esta não é a primeira vez que o mecanismo de busca enfrenta críticas sobre a precisão de seus dados. Em janeiro, investigações demonstraram que o Google entregava informações enganosas, o que forçou a remoção da IA para certas categorias médicas. Entretanto, a ferramenta permanece ativa para uma vasta gama de consultas de saúde.

Em resposta, um porta-voz da companhia negou que a ferramenta falhe na orientação dos usuários. A empresa sustenta que as visões gerais “frequentemente mencionam a necessidade de procurar atendimento médico diretamente dentro do resumo” e que a sugestão de buscar um profissional é um pilar do sistema.

A crítica central persiste inalterada. Ao fornecer respostas com aparência de completude e autoridade logo no topo da tela, o buscador pode inadvertidamente impedir que pacientes busquem diagnósticos humanos reais. Garantir a visibilidade desses alertas é fundamental para que o Google não comprometa a integridade física de quem utiliza a plataforma para cuidar da saúde.