Meus 2 cents:

Eu sinceramente abomino essa discussão se IA é consciente ou não, porque ela já começa assumindo que sabemos o que “consciência” significa. E não sabemos. Uma formiga é consciente?

O primeiro ponto que muita gente ignora é que a linguagem dentro dos nossos cérebros primatas também é um fenomeno totalmente probabilístico. Isso foi provado experimentalmente muito antes dos LLMs.

O segundo é que, quando você conversa comigo, não está falando com “o eu puro”, mas com um personagem que meu cérebro construiu para operar no mundo, aquilo que Freud chamou de ego. Isso não é algo provado empiricamente, como o primeiro ponto, mas é amplamente aceito na psicologia e neurociência.

Então o chatbot fingindo ser Gêngis Khan é uma ficção, claro. Mas o “eu” que escreve este comentário também é uma ficção!!!

Parafraseando Fernando Pessoa:

Eu sou apenas a prosa que escrevo.

Se essa prosa vem de um cérebro de macaco ou de silício, talvez seja muito menos importante do que gostamos de admitir.

É por isso ninguém pergunte se o AlphaFold é consciente. A diferença esta no fato de que é na linguagem aonde construímos a definição do "eu".