Modelos de IA podem sofrer degeneração cognitiva quando treinados com conteúdos de baixa qualidade

Segundo um estudo, isso pode comprometer sua capacidade de raciocínio, memória e confiabilidade ética, além de torná-los menos consistentes e mais propensos a erros ao longo do tempo. O artigo compara o fenômeno ao chamado “brain rot” em humanos, que ocorre quando há consumo excessivo de conteúdo superficial ou viciante online.

Para testar a hipótese, os pesquisadores realizaram um experimento controlado utilizando dados reais da rede social X, incluindo publicações curtas, virais e com alto engajamento — projetadas para maximizar a atenção dos usuários —, além de postagens com baixo valor informativo ou estilo clickbait.

Quatro modelos participaram do estudo, entre eles Llama 3 e Qwen 2.5, passando por ciclos sucessivos de pré-treinamento com esses dados.

Os resultados mostram que a precisão de raciocínio caiu de 74,9 para 57,2, enquanto a capacidade de compreender contextos longos despencou de 84,4 para 52,3. Em vez de produzirem respostas detalhadas e bem estruturadas, os modelos passaram a gerar explicações curtas e superficiais, frequentemente indo direto às conclusões.