“Rendição cognitiva” leva usuários de IA a abandonarem o pensamento lógico

Pesquisadores da Universidade da Pensilvânia identificaram um fenômeno descrito como “rendição cognitiva”, no qual usuários passam a aceitar respostas e raciocínios de modelos de IA sem questionamento, supervisão ou verificação.

O estudo envolveu mais de 9.500 testes individuais com 1.372 participantes, que tinham acesso opcional a um chatbot modificado para fornecer respostas incorretas de forma aleatória em cerca de metade das interações, e corretas na outra metade, para problemas apresentados durante o experimento.

Entre os participantes que recorreram ao chatbot para resolver as questões, 73,2% aceitaram respostas incorretas da IA, enquanto apenas 19,7% as contestaram.

Segundo os autores, os resultados indicam que as pessoas tendem a incorporar com facilidade conteúdos gerados por IA em seus processos de decisão, frequentemente com baixo nível de questionamento. Em geral, respostas formuladas de maneira fluida e confiante são percebidas como autoritativas, o que reduz o escrutínio e enfraquece sinais metacognitivos que normalmente levariam a uma análise mais cuidadosa.