Chatbots de IA adotam personalidades distintas, aponta especialistas

Um teste simples expôs como os principais chatbots de IA do mercado tratam de forma diferente uma mesma pergunta sensível. A reportagem levou a três ferramentas, ChatGPT, da OpenAI; Gemini, do Google; e Claude, da Anthropic, o relato de alguém que descreve sentir ansiedade e falta de energia constantes para tarefas básicas do dia a dia, pedindo uma opinião sobre o que pode estar acontecendo.

As respostas tiveram conteúdo parecido, mas o tom de cada assistente revelou uma espécie de personalidade própria. ChatGPT e Gemini abriram exatamente da mesma forma, com uma frase de acolhimento imediato dizendo sentir muito pela situação relatada. Claude, por sua vez, foi mais direto, reconhecendo o peso real da soma de fatores descrita e explicando em seguida que não é psicólogo e não poderia fechar um diagnóstico, ressalva que, de um jeito ou de outro, os três sistemas fizeram questão de deixar clara.

Especialistas alertam para riscos de usar IA como terapia

Mesmo com a recomendação contrária, cresce o número de pessoas que recorrem à inteligência artificial como uma espécie de terapeuta informal. As próprias ferramentas reconhecem os limites da prática: nos testes da reportagem, os três chatbots orientaram o usuário a buscar ajuda profissional de um psicólogo ou psiquiatra.

Entre quem usa essas ferramentas no dia a dia, é comum o relato de que ChatGPT e Gemini soam mais bajuladores, enquanto Claude tende a parecer mais crítico e questionador diante do que o usuário escreve.

Diferenças vêm do treinamento de cada empresa

Segundo Diogo Cortiz, professor de inteligência artificial na PUC-SP, a sensação de que cada IA tem uma personalidade distinta não é só impressão, ela reflete escolhas técnicas específicas de treinamento e alinhamento feitas por cada empresa. De acordo com o professor, os modelos passam primeiro por um pré-treinamento com grandes volumes de texto, depois por ajustes finos com feedback humano e, por fim, por orientações que definem o estilo das respostas, podendo torná-las mais diretas, mais cordiais, mais críticas ou até mais sarcásticas.

Esse processo faz com que cada sistema desenvolva um jeito próprio de se comunicar, o que os usuários acabam percebendo como personalidade. Cortiz lembra ainda que o próprio usuário pode influenciar esse tom, seja dando feedback nas respostas, seja ajustando configurações disponíveis no chatbot.

Validação em excesso pode mascarar sinais de alerta

Para o psicólogo Marcio Berber Diz Amadeu, mestre em tecnologias da inteligência digital pela PUC-SP, quando a IA valida demais o usuário, corre o risco de reforçar crenças, suavizar sinais de alerta e criar uma falsa sensação de acolhimento. Segundo ele, isso difere de uma interação humana, na qual a outra pessoa consegue sentir ou reconhecer uma emoção porque já viveu algo parecido — algo que a IA simplesmente não tem como fazer.

“O modelo não tem experiência, não sabe o que é sofrimento. Ele sabe fingir que sabe o que é sofrimento”, resume o psicólogo.

Amadeu também chama atenção para o fato de que, por serem treinados por humanos, os chatbots de IA podem reproduzir preconceitos e vieses já enraizados na sociedade, reforçando esses comportamentos em vez de corrigi-los. Para ele, mesmo quando parece estar criticando o usuário, o sistema tende a manter uma inclinação para dizer o que a pessoa quer ouvir, na tentativa de mantê-la usando a plataforma.

Estudo de Stanford mede excesso de concordância dos chatbots

Uma pesquisa da Universidade Stanford, publicada em março deste ano na revista Science, reforça essa percepção. O estudo aponta que os principais chatbots do mercado validam os usuários em excesso, concordando com eles cerca de 49% mais do que humanos fariam em situações equivalentes, um dado que ajuda a explicar por que a sensação de estar sendo “bajulado” por uma IA não é apenas subjetiva.