Então... sem querer julgar ninguém, apenas um pensamento em nível geral: um dos perigos da IA (talvez o maior) é quando pessoas que não entendem o que estão fazendo começam a aceitar e usar tudo o que a IA entrega.
Nesse caso da notícia, teve cientistas envolvidos, mas tem muitas situações por aí em que a IA está sendo usada como única fonte de verdade, sem nenhum senso crítico.