Nem sempre ele é sutil. Mas é sutil quando tudo parece ser algo bom. E pode não ser. Um especialista sabe que é não é bom, um leigo não sabe, e sutilmente acaba se enganando porque o texto é semrpe muito bem escrito. Ser bem escito passa credibilidade. A forma costuma ter mais valor no cérebro das pessoas do que o conteúdo, podemos ver o tempo todo em toda internet.

Em TI eu consigo ver erros mais facilmente, porque não sou leigo, em questões de saúde eu não consigo, precisaria de um especialistas falar. Por isso eu ignoro completamente, porque eu não posso separar o joio do trigo. Eu não posso acreditar em algo que não posso atestar confiabilidade.

O probelma todo é justamente as pessoas atribuirem por padrão que ele é confiável e se alguém achar um problema é que deve "provar" que tem, quando deveria ser o contrário, ele é inconfiável e quem quiser acreditar que prove que o ChatGPT falou algo certo. Quando começar acontecer em tudo ficará bom. Ou pelo menos que em cada lugar que alguém publique algo do ChatGPT, diga que é dele, alguns fazem e outros não, e até que fique claro para todo mundo o que ele é ou não é, que faça a ressalva sobre essa confiabilidade.

Não dá para dar risada quando ele narra uma corrida de Formula 1 que acabou de acontecer com um texto completamente fansasioso como se fosse verdade e achar que quando ele não faz algo tão óbvio, que parece certo, não seja hilário também. Se a pessoa não domina o assunto ela nunca sabe onde está sendo enganada, e quanto mais parece certo mais arriscado é, esse é todo o problema.

No momento que as pessoas questionarem o ChatGPT em vez de questionar quem o questiona, tudo ficará bem porque estamos saindo da histeria.

Eu não consigo rebater nada nesse caso específico porque não sou psicólogo, mas posso falar de forma geral.

Pelo que percebi até agora, o ChatGPT muitas vezes dá respostas meio-certas: em uma leitura superficial - e principalmente feita por alguém que não conhece bem o assunto - tudo parece fazer sentido. Mas uma análise mais minucisosa revela falhas graves, o problema é que estas são difíceis de perceber por leigos.

Vejo isso acontecer muito com assuntos que conheço, e vejo especialistas de outras áreas afirmando que isso também ocorre nas áreas deles.

Esse é o perigo de pesquisar sobre coisas que não conhecemos e não consultar mais de uma fonte. Para um leigo, tudo parece perfeito e interessante. Eu gostaria muito que algum especialista em psicologia analisasse o texto - mas de qualquer forma, já li muitos especialistas alertando para não usar nenhuma IA como psicólogo, sempre procure um profissional.

No fundo, é o mesmo problema que existia antes, das pessoas que consultavam o "Doutor Google" e já chegavam no médico com seu diagnóstico (antes mesmo de ser examinado). Mas agora tende a piorar, pois muita gente está achando que o ChatGPT é um oráculo que nunca erra, e ele dá respostas convincentes que ninguém se dá o trabalho de verificar.

Eu uso uma ferramenta para facilitar a digitação dos textos e já vai um rodapé/assinatura que uso para quem tiver interesse. Eu não dou aulas.

Releia o meu texto com atenção.