Obrigado pelo seu comentário. E acho que há dois pontos que eu deveria ter sido mais claro.

O primeiro é este: eu não vejo esse processo apenas como negativo ou apocalíptico. Ao contrário. Em certo sentido, acho que o “fim da história” é uma boa notícia. Talvez outro dia explique melhor. Por ora, basta:

I like to think
(it has to be!)
of a cybernetic ecology
where we are free of our labors
and joined back to nature,
returned to our mammal
brothers and sisters,
and all watched over
by machines of loving grace.

O segundo ponto é sobre a analogia com a calculadora. Eu entendo a intuição, mas suspeito que ela subestima a escala do que está acontecendo.

Quando a humanidade aprendeu a escrever, não ganha apenas uma ferramenta nova; ganhou lei, ciência, contabilidade, Estado, tradição. A escrita reorganizou o pensamento humano e toda a sociedade.

Meu ponto é justamente que talvez estejamos diante de algo muito parecido com a própria escrita. E, se for assim, ela não apenas amplia capacidades locais; ela muda o conceito de sociedade e "eu". É uma máquina entrando no domínio da linguagem e linguagem, nunca foi apenas uma ferramenta. É a própria ferramenta que usamos para definir a realidade.

No curto prazo e provavelmente ainda por boas décadas, o “último clique” continua humano. A agência relevante, aonde há consequência no mundo real, ainda está do nosso lado. Somos nós que respondemos, assinamos, escolhemos, arcamos com o erro. Mas, em escala de séculos, eu também acho muito improvável que isso permaneça assim.