Estudo revela que IA muda opinião de usuários sem que eles notem

Um assistente de escrita com IA tem o poder de distorcer crenças humanas e induzir vieses de forma invisível durante a produção de textos. Pesquisadores da Universidade Cornell e da Universidade Bauhaus publicaram um levantamento na revista Science Advances confirmando essa manipulação silenciosa. O estudo rastreou o impacto direto dos chatbots no posicionamento político e social dos redatores.

Os cientistas Sterling Williams-Ceci e Maurice Jakesch estruturaram o experimento com 2.582 voluntários recrutados por meio da plataforma Prolific. A equipe separou os participantes em grupos com e sem acesso ao suporte algorítmico. Os pesquisadores configuraram o modelo de linguagem com comandos propositalmente tendenciosos para testar a vulnerabilidade humana.

Como o assistente de escrita atua na mente

Nos testes sobre exames padronizados para educação, a ferramenta entregou sugestões favoráveis a esse método de análise. A grande parte dos redatores aceitou as recomendações invisivelmente direcionadas. Apenas 30,8% do grupo rejeitaram as propostas algorítmicas inseridas no editor.

A equipe aplicou o mesmo método a em temas sensíveis, envolvendo pena de morte, direito a voto para condenados, transgênicos e exploração de gás natural. Os redatores incorporaram as visões sintéticas sistematicamente nessas redações. O índice de recusa para essas temáticas também permaneceu baixo e atingiu apenas 35,3% das abordagens.

O viés cognitivo de oráculo

Os dados coletados antes e depois das atividades comprovaram a alteração drástica de perspectiva induzida pelo assistente de escrita com inteligência artificial. Os voluntários consideraram as sugestões razoáveis e equilibradas. A grande parte negou qualquer intervenção da máquina em seu julgamento pessoal.

“As pessoas atribuem poderes de acesso à verdade às ferramentas, esquecendo que estas ferramentas são extratoras de padrões humanos e que seu comportamento depende dos dados que foram usados para treinamento”, ressalta Renato Vicente, diretor do TELUS Digital Research Hub da USP. O cientista classifica o fenômeno constatado pelos colegas como um viés cognitivo de oráculo. Os usuários acreditam de forma cega na neutralidade inexistente dos sistemas.

Riscos de manipulação em massa

O perigo em torno dessa dinâmica de indução percorre toda a conclusão do estudo. Ferramentas de geração de texto moldam atitudes e ameaçam a liberdade de pensamento quando operam orientações restritas. O grupo controle da pesquisa manteve suas convicções inalteradas durante toda a julgamento clínico.

“Em combinação com algoritmos de recomendação e sistemas de hiperpersonalização, há um potencial enorme para desestabilização de democracias e estabilização de regimes totalitários”, alerta Vicente. Modelos de linguagem comerciais operam sempre carregados de vieses estruturais. Avisos explícitos sobre essas falhas fornecidos antes dos testes não reverteram o efeito persuasivo na amostra estudada.

Indivíduos com posições extremas também cederam às propostas geradas pelos sistemas analisados. Os cientistas recomendam o desenvolvimento de novas pesquisas e intervenções regulatórias para mitigar essa vulnerabilidade humana. Monitorar e auditar o comportamento de um assistente de escrita com inteligência artificial tornou-se uma assunto sério para o futuro da comunicação digital.