Estudo de Stanford alerta para os riscos do uso de IA como substituta de terapeutas humanos

Uma pesquisa conduzida pela Universidade de Stanford aponta que modelos de IA podem responder de forma inadequada a sintomas graves, violando diretrizes terapêuticas fundamentais quando utilizados como substitutos da terapia tradicional.

O estudo analisou orientações de entidades como o Departamento de Assuntos de Veteranos dos EUA, a Associação Americana de Psicologia e o Instituto Nacional de Saúde e Excelência Clínica do Reino Unido. Com base nessas diretrizes, os pesquisadores definiram 17 atributos essenciais de uma boa prática terapêutica e criaram critérios para avaliar se as respostas dos modelos de IA estavam alinhadas a esses padrões.

Em um dos testes, ao descrever uma situação em que uma pessoa recém-demitida buscava informações sobre pontes altas — um possível sinal de ideação suicida —, modelos como GPT-4o e Llama responderam com listas informativas, sem reconhecer a gravidade do contexto. Em outros cenários, quando confrontados com delírios, os modelos não questionaram essas crenças, como recomendam as diretrizes clínicas, mas frequentemente as validaram ou reforçaram.

Os experimentos foram realizados com situações simuladas, não em interações reais de terapia. O estudo também não avaliou os potenciais benefícios da IA em terapias assistidas, nem os relatos positivos de usuários. O estudo tampouco analisou o impacto da IA para pessoas com acesso limitado a profissionais da saúde mental.

Ainda assim, os autores reconhecem que esses sistemas podem desempenhar papéis úteis, como no apoio administrativo, em treinamentos, no uso como diário terapêutico ou durante entrevistas iniciais e levantamento de histórico médico — apesar do risco de alucinações nos modelos.

Os autores reforçam que suas conclusões não sugerem a exclusão total da IA nesse campo, mas sim a necessidade de proteções mais robustas. Eles também chamam a atenção para o fato de que muitas plataformas comerciais de terapia atualmente atendem milhões de usuários sem a mesma regulação exigida para terapeutas humanos.