Google restringe AI Overviews para algumas buscas relacionadas à saúde

O Google removeu parte dos resumos de saúde gerados por inteligência artificial após uma investigação apontar que informações falsas ou enganosas poderiam colocar pessoas em risco. Segundo o levantamento, esses resumos poderiam levar pacientes com doenças graves a acreditar, de forma equivocada, que seus exames estavam dentro da normalidade, fazendo com que deixassem de comparecer a consultas ou interrompessem acompanhamentos médicos.

Entre os casos citados estão situações em que pessoas com doenças sérias no fígado poderiam ser levadas a concluir, incorretamente, que estavam saudáveis. Diante disso, o Google retirou os AI Overviews para algumas consultas relacionadas a exames de sangue do fígado e testes de função hepática. No entanto, ao formular perguntas de maneiras diferentes, os resumos gerados por IA ainda podem aparecer e apresentar informações imprecisas, o que preocupa especialistas.

A empresa afirma que já está analisando esses outros cenários. Apesar disso, os AI Overviews continuam sendo exibidos em buscas relacionadas a câncer e saúde mental, áreas nas quais especialistas classificaram algumas respostas como “completamente erradas” e “realmente perigosas”. O Google, por sua vez, afirma que esses resumos direcionam os usuários para fontes reconhecidas e confiáveis e que incentivam a busca por aconselhamento especializado sempre que necessário.