Tenho uma visão crítica sobre Transformers. A engenharia é impressionante, mas muito do hype é mais político e econômico do que técnico. São modelos estatísticos gigantes, mas sem entendimento real — só aprendem padrões nos dados, que podem carregar viéses como sensacionalismo ou preconceitos, por exemplo, quando vêm de corpora jornalísticos. Isso exige auditoria e ajustes manuais, tornando tudo tão complexo quanto grandioso.

Sobre ELIZA, citei no título só por ser marco histórico. Tenho ideias próprias, mas ainda estou estudando antes de falar mais sobre isso.

Hoje Transformers dominam o PLN, mas não são a única aposta. Tem gente pesquisando:

Modelos híbridos simbólico-estatísticos, unindo regras linguísticas e aprendizado de máquina.

Redes Bayesianas, para modelar incertezas.

Spiking Neural Networks, tentando imitar mais de perto o cérebro.

Graph Neural Networks, para lidar com relações complexas além da sequência de texto.

Lógica formal, integrando raciocínio simbólico.

Nenhuma substitui Transformers ainda, mas há quem busque novos caminhos.

Aliás, estou lendo o livro brasileiro ‘Processamento de Linguagem Natural: Conceitos, Técnicas e Aplicações em Português’, das pesquisadoras Helena Caseli e Maria das Graças Volpe Nunes. Elas mostram o quanto ainda temos limitações tecnológicas no Brasil em PLN, tanto em termos de recursos quanto de ferramentas. Mas também falam do potencial enorme que essas tecnologias têm para o nosso país — não só para pesquisa, mas para áreas como educação, governo, negócios e inclusão social. Acho que o desenvolvimento de PLN em português pode fazer diferença real pra gente, não só tecnicamente, mas socialmente.

Alguma área de PLN ou IA te chama mais atenção? Já testou algo como ChatGPT?