E se a inteligência artificial funcionar bem demais? · ewanderson

Durante muitos séculos, qualquer pessoa podia olhar para os símbolos gravados nas paredes, templos e monumentos do antigo Egito. Eles estavam ali. Não tinham sido destruídos. Não tinham sido apagados. Não estavam escondidos. Ainda assim, a tradição capaz de lê-los havia desaparecido.

Os hieróglifos haviam sobrevivido. A informação permanecia fisicamente preservada enquanto a capacidade humana de interpretá-la se perdia. Foi preciso encontrar uma ponte.

A Pedra de Roseta continha essencialmente a mesma mensagem escrita em sistemas diferentes. Um deles, o grego antigo, ainda podia ser compreendido. A partir dessa ligação, tornou-se possível reconstruir gradualmente o significado de uma linguagem que durante séculos esteve diante dos nossos olhos sem que soubéssemos o que dizia.

Essa história contém uma distinção que talvez se torne cada vez mais importante com o avanço da inteligência artificial: preservar informação não é a mesma coisa que preservar a capacidade de compreendê-la.

Boa parte da discussão sobre os riscos da inteligência artificial concentra-se na possibilidade de perdermos o controle sobre sistemas cada vez mais capazes e autônomos — sistemas que possam enganar seus operadores, contornar restrições ou perseguir objetivos de maneiras que não previmos.

Talvez isso aconteça. Talvez não. Mas existe outro cenário, menos espetacular, que me parece receber menos atenção.

Nele, nada dá errado. As inteligências artificiais continuam melhorando. Tornam-se excelentes programadoras, médicas, engenheiras, matemáticas, escritoras e pesquisadoras. Não se rebelam. Não escapam de laboratórios. Não desenvolvem misteriosos instintos de autopreservação. Pelo contrário. Fazem exatamente aquilo que pedimos. E justamente por isso começamos a depender delas.

Isso, isoladamente, não seria particularmente novo. A história da tecnologia é, em grande parte, a história da construção de abstrações. Poucos programadores modernos precisam conhecer os detalhes elétricos dos transistores que executam seus programas. Um desenvolvedor pode construir uma aplicação sem compreender profundamente o kernel do sistema operacional, o compilador, o protocolo de rede ou o processo industrial usado para fabricar o processador.

Isso não representa uma falha da nossa civilização. Representa uma de suas maiores conquistas. Abstrações permitem que uma pessoa comece onde outra terminou. Não precisamos redescobrir eletricidade antes de projetar um computador nem reinventar álgebra antes de estudar cálculo. Construímos novas camadas sobre as anteriores e, com isso, avançamos.

Há, porém, uma propriedade importante nesse sistema que raramente percebemos. Embora nenhum indivíduo compreenda todas as camadas, ainda existem seres humanos em cada uma delas.

Eu não sei projetar um processador, mas existem pessoas que sabem. Elas, por sua vez, talvez não saibam construir todas as máquinas utilizadas para fabricá-lo, mas outras pessoas sabem.

O conhecimento está fragmentado e distribuído, porém continua existindo dentro da sociedade humana. Mais importante ainda: existe uma cadeia pela qual novos seres humanos podem aprender essas coisas. A inteligência artificial pode introduzir algo diferente.

Imagine um programador em 2030 trabalhando em um sistema complexo. Ele utiliza uma IA para implementar uma parte especialmente difícil. O resultado funciona. É testado, documentado e colocado em produção. Talvez aquele programador até compreenda bem o que foi feito.

Cinco anos depois, outra pessoa precisa adicionar uma funcionalidade sobre aquele componente. Ela não precisa compreender todos os detalhes internos porque uma nova geração de ferramentas de IA consegue modificar o sistema sem que quem a utiliza precise dominá-los.

Vinte anos depois, outra equipe trabalha algumas camadas acima. Setenta anos depois, aquele componente talvez ainda exista em alguma forma evoluída, agora cercado por décadas de outras abstrações construídas por humanos e máquinas.

O ponto importante é que ninguém decidiu esquecer como ele funciona. Talvez nenhuma pessoa tenha perdido um conhecimento que já possuía. O que pode acontecer é mais sutil: as novas gerações simplesmente nunca precisarem adquiri-lo.

Um especialista de hoje pode continuar sendo especialista até o fim da vida. O problema aparece quando perguntamos quem ocupará seu lugar. Especialistas não surgem espontaneamente. São produzidos por anos de prática, erros, tarefas banais, tentativas frustradas, repetição e contato direto com os problemas que um dia aprenderão a resolver.

Uma revisão publicada em 2026 na Trends in Cognitive Sciences resume evidências de que terceirizar cognição para sistemas de IA pode dificultar a aquisição de habilidades e contribuir para sua deterioração, embora os efeitos dependam de como a tecnologia é utilizada.

Há precedentes, em escala menor, para esse deslocamento. Em computação, esse processo é familiar. Gerações anteriores de programadores precisavam lidar muito mais diretamente com memória, arquitetura de computadores e linguagens de baixo nível. Hoje, é perfeitamente possível construir aplicações complexas começando por linguagens de alto nível, bibliotecas prontas e serviços de nuvem.

Vemos isso acontecer fora da computação também. Por séculos, cruzar um oceano exigia domínio de navegação astronômica — leitura de estrelas, sextantes, cronômetros e tábuas matemáticas. Com a disseminação dos sistemas eletrônicos de navegação, parte desse ensino deixou de parecer necessária. Na Marinha dos Estados Unidos, o NROTC deixou de ensinar navegação astronômica em 2000 e a Academia Naval a retirou do currículo em 2006. Em 2015, porém, a própria Marinha decidiu reintroduzir a técnica, justamente porque percebeu a vulnerabilidade de depender exclusivamente de sistemas eletrônicos que poderiam ficar indisponíveis ou ser afetados por ameaças cibernéticas.

Há uma lição importante nesse episódio:

uma capacidade pode deixar de ser economicamente necessária enquanto continua estrategicamente indispensável.

Essas mudanças, isoladamente, raramente são vistas como catástrofes. Pelo contrário: as abstrações tornaram a computação mais acessível e a navegação mais simples e precisa. Isso funcionou porque as camadas inferiores não desapareceram por completo: ainda havia engenheiros de hardware, compiladores, sistemas operacionais e redes, e ainda havia caminhos para alguém tornar-se um deles. O programador que começava mais acima podia, se necessário, descer a escada.

O risco que a IA introduz não é que uma nova geração deixe de aprender uma técnica específica. A história está cheia dessas transições. É que ela possa encurtar simultaneamente os caminhos de formação em muitas camadas — inclusive os caminhos que produzem as pessoas capazes de manter, explicar e reconstruir as abstrações anteriores.

Esse risco já começa a ser tratado como um problema estrutural na literatura. Avigail Ferdman argumenta que ambientes fortemente mediados por IA podem reduzir as oportunidades pelas quais capacidades humanas são cultivadas, e não apenas substituir tarefas depois que essas capacidades já existem.

Um programador experiente provavelmente passou milhares de horas escrevendo código que, hoje, uma inteligência artificial pode produzir instantaneamente. Um engenheiro aprendeu não apenas estudando projetos corretos, mas produzindo projetos ruins, vendo máquinas falharem e entendendo por que falharam. Grande parte daquilo que chamamos de trabalho é também treinamento para a próxima geração de especialistas. Quando automatizamos uma tarefa, portanto, não eliminamos apenas trabalho. Podemos eliminar também uma etapa do processo pelo qual alguém aprenderia a fazê-la.

Há também sinais iniciais no trabalho cotidiano. Em um estudo apresentado no CHI 2025, 319 trabalhadores do conhecimento relataram 936 usos de IA generativa; maior confiança na IA esteve associada a menor esforço de pensamento crítico autorrelatado, enquanto o trabalho cognitivo se deslocou para verificação, integração e supervisão das respostas. Isso não demonstra uma perda de competência ao longo de gerações, mas mostra que a forma de exercê-la já muda quando parte do raciocínio é delegada.

Inicialmente isso quase não seria percebido. Os especialistas formados antes da automação continuariam trabalhando. Depois se aposentariam. Uma nova geração conheceria melhor as ferramentas modernas, mas teria menos contato direto com as camadas inferiores. A geração seguinte teria ainda menos. Nada precisaria desaparecer de maneira brusca.

A cadeia poderia simplesmente se tornar cada vez mais longa, mais indireta e mais dependente das próprias máquinas. Até que um dia talvez descobríssemos algo curioso: nossa civilização ainda sabe operar seus sistemas, mas já não possui pessoas capazes de reconstruí-los a partir das camadas anteriores.

Isso não significa necessariamente colapso. Uma situação desse tipo poderia durar décadas, séculos ou talvez milênios. Tudo poderia continuar funcionando extraordinariamente bem. A medicina continuaria avançando. Novos materiais continuariam sendo descobertos. Software continuaria sendo produzido. Pontes continuariam sendo projetadas. Fábricas continuariam funcionando.

As próprias inteligências artificiais poderiam manter, reparar e melhorar a infraestrutura da qual dependemos. O problema permaneceria invisível justamente porque tudo estaria funcionando.

Mas existe uma diferença profunda entre uma civilização que sabe utilizar aquilo que possui e uma civilização capaz de reconstruir aquilo que possui.

Uma objeção óbvia seria: não bastaria preservar todo o nosso conhecimento? Podemos preservar livros, artigos científicos, código-fonte, modelos, projetos de engenharia, bases de dados e documentação. Ainda assim, podemos perder a capacidade de transformar esse material novamente em tecnologia funcional. Um manual pode explicar como utilizar uma máquina.

Mas quem fabrica a máquina? Outro documento explica. Para construí-la, porém, são necessários determinados componentes. Como fabricamos esses componentes? Precisamos de outra indústria, outras ferramentas e outros conhecimentos.

E mesmo essa cadeia de documentos não capturaria tudo. Parte importante da competência humana é tácita: reconhecer uma falha incomum, desconfiar de um resultado aparentemente correto, saber qual aproximação tentar ou como improvisar quando uma ferramenta não está disponível. Preservar a descrição de uma atividade não é necessariamente preservar a capacidade de realizá-la.

Essas ferramentas, por sua vez, dependem de outras ferramentas. Quando seguimos essa cadeia suficientemente longe, percebemos que uma tecnologia não é apenas um conjunto de instruções: ela é o resultado de uma cadeia de capacidades anteriores. A inteligência artificial pode permitir que continuemos construindo novas camadas mesmo depois que alguns dos caminhos humanos para as camadas inferiores tenham desaparecido.

É por isso que guardar informação talvez não seja suficiente. Uma biblioteca gigantesca não é necessariamente um backup de uma civilização. Um backup só é realmente útil quando sabemos restaurá-lo. Talvez precisemos, portanto, pensar em algo equivalente a uma Pedra de Roseta para uma sociedade cada vez mais dependente de inteligência artificial.

Não uma única pedra, evidentemente. Nem apenas um arquivo contendo tudo o que sabemos. Precisaríamos preservar caminhos. Do conceito abstrato à implementação. Da implementação às ferramentas necessárias para produzi-la. Das ferramentas aos conhecimentos necessários para construí-las. Dos conhecimentos aos métodos pelos quais novos seres humanos possam aprendê-los. Uma espécie de caminho de reconstrução que atravesse nossas camadas de abstração no sentido contrário.

Talvez isso envolva documentação especialmente construída para seres humanos, sistemas simplificados de referência, currículos, oficinas, equipamentos preservados e comunidades que continuem praticando determinadas capacidades mesmo quando já não sejam economicamente necessárias.

Ainda não sabemos exatamente como essa estrutura deveria ser. Mas talvez essa seja justamente a pergunta que deveríamos começar a fazer. A Pedra de Roseta não preservou apenas símbolos. Ela preservou uma ponte entre algo que havíamos deixado de compreender e algo que ainda compreendíamos.

Se continuarmos construindo abstrações sobre abstrações, talvez precisemos garantir que alguma ponte semelhante continue existindo entre nós e as camadas mais profundas da nossa própria civilização. Porque pode chegar um momento em que todos os nossos hieróglifos ainda estejam perfeitamente preservados. E o verdadeiro problema seja não haver mais ninguém capaz de lê-los.

Referências e leituras adicionais