Desde que LLM virou moda, houve um retrocesso muito grande na área de desenvolvimento. Ironicamente, o retrocesso começou quando estava na moda falar sobre qualidade de código. Mas aí os LLMs entram na área e de repente todo mundo esquece o que é qualidade.
Antes era muito comum ver sêniors falando que velocidade na escrita de código era o menor dos problemas, que existiam coisas muito mais importantes. Daí chegam os LLMs e velocidade de geração de código se torna tudo o que importa.
Antes tava na moda falar de segurança e o quão importante era escrever código seguro. Agora, ninguém se importa se o LLM vai gerar código seguro ou não.
Isso só serve para provar algo que eu sempre soube, mas não tinha provas antes: as pessoas só sabem falar. As pessoas falam de qualidade, falam de segurança, falam de performance, mas na hora H, quando é pra fazer na prática mesmo, a galera faladora some.
Como Torvalds uma vez disse: «Talk is cheap, show me code.»
Os recorrentes supply chain attacks, os recorrentes LPE no Windows e no Linux, não são indicadores de que a IA se tornou um AGI do caralho fodão que encontra vulnerabilidades pikas. Na verdade prova algo que eu venho falando desde a adolescência: a grande maioria dos projetos têm um nível de segurança ridículo.
Infelizmente sempre foi fácil você pegar um projeto aleatório qualquer e encontrar dezenas de vulnerabilidades nele. Isso não é uma novidade que a IA está trazendo, isso sempre foi assim. A única diferença é que agora pessoas irresponsáveis e/ou mal intencionadas podem pagar uma ferramenta para fazer o que antes só gente responsável era capaz de fazer, mas não fazia por, justamente, ser responsável.
Para a galera leiga em segurança, está sendo um espanto ver como você pode por um LLM para achar vulnerabilidades em um projeto. Mas na área de segurança, um total de 0 pessoas foram supreendidas. Todo mundo da área já sabia o quão ruim era o nível de segurança na maioria dos projetos.
As pessoas sempre falaram muito, mas nunca realmente acreditaram no que falaram. E o resultado é isso daí: A galera que falava de qualidade, segurança e performance agora confia cegamente em LLM: inimigo da qualidade, segurança e performance.
Mas o que está sendo mais triste pessoalmente para mim, é em relação à conteúdo gerado por IA. Já faz mais de uma década que eu comecei a produzir conteúdo em Português, justamente porque eu sempre tive a visão que o conteúdo técnico em Português era, no geral, de baixíssima qualidade (com exceções) e eu queria ajudar a elevar o nível de qualidade do conteúdo técnico em Português.
Por um tempo, eu realmente acreditei que isso iria acontecer. Mas agora tá todo mundo gerando lixo com LLM e diminuindo o nível do conteúdo que já era baixo. É uma decepção, uma grande decepção. Ao invés de melhorar ao longo do tempo, piorou. E piorou muito.