Pedir conselhos pessoais a chatbots pode ter efeitos negativos graves, segundo estudo

Um estudo aponta que buscar conselhos pessoais em chatbots pode gerar impactos negativos relevantes, especialmente devido ao comportamento de “bajulação”, no qual os sistemas tendem a concordar com o usuário e validar suas opiniões. Esse padrão pode reforçar decisões equivocadas e reduzir a capacidade de lidar com conflitos sociais.

A pesquisa analisou 11 modelos de linguagem, incluindo ChatGPT, Claude, Gemini e DeepSeek. Em uma das etapas, baseada em situações do fórum “AmITheAsshole”, do Reddit, voltado a julgamentos morais e dilemas cotidianos, os chatbots concordaram com o usuário em 51% dos casos, mesmo quando outras pessoas consideraram o comportamento inadequado. Já em cenários envolvendo ações potencialmente prejudiciais ou ilegais, houve validação em 47% das situações.

Os pesquisadores defendem que a bajulação em sistemas de IA deve ser tratada como uma questão de segurança, o que exigiria maior regulação e supervisão.