1

Bem-vindo ao ciberapocalipse

Olá, amigo. Parece que a IA tá hackeando tudo, né? Complicado... Bom, eu não sei se isso vai te ajudar a se sentir melhor, mas eu já sabia que um dia isso iria acontecer e, não apenas isso, eu sei o que você deve fazer para evitar o desastre iminente.

É, eu não sabia que as IAs iriam achar vulnerabilidades em tudo. Essa parte da IA foi surpresa e eu também não esperava que fosse acontecer tão rápido (achei que ia demorar muitos anos ainda). Mas eu já sabia que, eventualmente, a frágil "segurança" dos nossos softwares iria colapsar.

Nem é muito difícil de prever: a qualidade do software anda caindo desde os anos 90; faz muitos anos que os desenvolvedores cada vez mais se apoiam e confiam em dependências (frameworks, bibliotecas, WordPress etc.); há anos os desenvolvedores cada vez menos entendem como as coisas funcionam; e o estudo de cybersec começou a ser banalizado e superficializado em, aproximadamente, 2010.

Daí é só somar: menor qualidade de software + centralização da segurança + menor qualidade de cybersec = desastre.

Era inevitável que isso fosse acontecer um dia. A IA só acelerou o desastre, não criou ele.

Esvazie sua xícara

Eu tenho uma aversão muito forte à autoridades desde que eu era criança, mas eu vou ter que bancar uma "autoridade" aqui. Eu sou muito acima da média em cybersec, eu sei do que eu estou falando e não sou um iniciante em efeito Dunning-Kruger. Eu sou hacker no sentido original do termo (que eu vou explicar mais abaixo).

Se você se considera um desenvolvedor ou engenheiro de software, aceita isso como fato: você não entende de cybersec.

Você pode até ter alguma familiaridade com o tema, mas isso não significa que você domina o assunto. Todo desenvolvedor/engenheiro de software estuda alguma coisa sobre cybersec, mas é um conhecimento muito superficial de cybersec e não se compara com o nível de conhecimento que um pesquisador de segurança tem.

Engenheiro de software achar que entende de cybersec é equivalente a uma pessoa aprender primeiros socorros e achar que entende de medicina.

Cybersec é uma área de estudos por si só e é divida em dezenas de subáreas. Cybersec não é só uma matéria de 200 horas de carga horária no teu bacharelado. 200 horas de carga horária não serve nem de introdução para uma única subárea. E como eu gosto de dizer: se você aprendeu cybersec na faculdade, você não aprendeu cybersec.

Também é importante entender que aprender conformidade (compliance) de segurança não é a mesma coisa que aprender cybersec. Então não, teus estudos da ISO 27001, LGPD ou PCI DSS não são relevantes para o assunto. Conformidade de segurança não é segurança da informação. São relacionadas, mas não são a mesma coisa.

É importante que você deixe seu ego de lado ao ler este artigo ou você não vai aprender nada. Existem coisas muito mais importantes em jogo do que o teu ego.

Se eu estivesse preocupado com o meu ego, eu ficaria nas comunidades de segurança onde o pessoal me respeita e elogia. Ao invés disso, eu venho para as comunidades de desenvolvedores onde me xingam e me perseguem. Isso não é masoquismo, é vontade de ajudar o elo mais fraco.

Eu abri mão do meu ego, abra mão do seu também. Esvazie sua xícara. Não dá para aprender o que a gente acha que já sabe.

Já passamos por situação semelhante

Vamos voltar para os anos 80: época pré segurança da informação como área. A segurança dos softwares naquela época era tão ridiculamente baixa, que até adolescentes hackeavam sistemas de grandes empresas... Literalmente adolescentes, não foi modo de falar.

A segurança era um verdadeiro caos, se é que dava pra dizer que existia "segurança" naquela época. A diferença é que, mesmo com um nível de segurança tão ridiculamente baixo, a escala era muito pequena. Pouca gente usava internet, pouca gente era nerd e se interessava em aprender sobre hacking e havia pouco incentivo monetário para hackear sistemas. Quem hackeava geralmente fazia pelo "lulz" e não para realmente prejudicar ou roubar pessoas.

O que mudou essa situação foi que as empresas viram que os mesmos "moleques" que hackeavam seus sistemas tinham o conhecimento necessário para protegê-los. Crie o problema, venda a solução.

Do "hacking" nasceu o seu primo: cybersec. Embora hoje em dia os significados tenham se deturpado e as pessoas achem que "hacking" e "cybersec" são a mesma coisa, que "profissional de segurança" e "hacker" é a mesma coisa, na verdade são coisas distintas.

Hacker é subcultura (assim como gótico, punk, emo etc.) e cybersec é área profissional. Hacker é quem segue os princípios da subcultura hacker, profissional de segurança é quem trabalha na área de segurança.

Comparar hacker com gótico é mais etimologicamente correto do que comparar com profissional de segurança. E daí surge algo que muitos iniciantes em segurança confundem com gate keeping: hackers sendo muito exigentes em relação ao seu nível de conhecimento para ser chamado de "hacker".

Isso não é arrogância, é fidelidade à subcultura que preza a profundidade de conhecimento. Para um hacker, o processo é o que importa, o resultado é só consequência.

Quem tá preocupado em achar vulnerabilidades não é hacker. Ele vai rodar ferramentas, vai pedir pro LLM fazer todo o trabalho, vai forçar a barra para fingir que achou vulnerabilidade etc. porque para ele o importante é o resultado: a glória de poder sair falando por aí que achou vulnerabilidade ou o dinheiro que vai ganhar com isso.

Um hacker tá preocupado em entender como as coisas funcionam em seus mínimos detalhes. Tá preocupado em subverter o sistema, entender tão profundamente ao ponto de controlar o sistema e não apenas ser um usuário dele. Por consequência, vulnerabilidades são encontradas porque elas são um pequeno passo necessário nessa jornada de subversão do sistema. Para um hacker, achar vulnerabilidade ou ganhar dinheiro é só uma consequência, não é o propósito.

Cybersec perdeu qualidade

É importante entender a diferença entre hacker e profissional de segurança para entender como essa montanha-russa aconteceu: pouca segurança -> muita segurança -> baixa da segurança.

A gente saiu de um cenário onde desenvolvedores faziam softwares muito vulneráveis. Daí a subcultura hacker surgiu e os hackers ajudaram a construir o que hoje a gente conhece como a área de segurança da informação.

Com os hackers sendo pagos por empresas para melhorarem a segurança de seus sistemas, surgiu então o que a gente conhece hoje como pesquisa de segurança -- que é o hacking na sua forma original, só que remunerado.

Só que com a mídia falando de "hackers isso", "hackers aquilo" e com a popularização da internet; de repente ser hacker deixou de ser coisa de gente obcecada em conhecimento e virou "cool". Agora todo mundo queria ser hacker.

Só que ser aceito na subcultura hacker não é fácil, então essa galera que queria ser "hacker" pela glória criou suas próprias comunidades. E daí surgiu aquela moda adolescente de ownar sites que todo mundo deve lembrar. Aquele negócio de mudar a página inicial dos sites pra dizer "vocês foram hackeados" e blablabla; vocês lembram.

Não tinha nada de hacking nisso, mas eles queriam se chamar de hackers e não tinha quem impedisse. E daí o termo "script kiddie" se popularizou e os detalhes não importam.

Mas o ponto é que: dessa vertente neo-hacker que surgiram muitos dos que hoje são profissionais de segurança e se chamam de "hackers".

Independentemente do que o ego das pessoas fale, o mais importante é entender que:

Antes (hackers): cybersec surgiu com a galera que era obcecada em conhecimento. Queriam entender tudo de forma muito profunda. Estudar era o objetivo, o resto era consequência.

Agora (neo-hackers): cybersec tá cheia de gente que só quer o resultado. Estudar é um obstáculo, não o objetivo.

Se com os hackers o nível de segurança dos sistemas subiu, com os neo-hackers o nível caiu. Naturalmente ainda existem hackers na área de segurança, mas eles são minoria agora. A grande maioria hoje em dia é neo-hacker.

Não vou chamar ninguém de "falso hacker" aqui, mas é importante entender que, para um hacker no sentido original do termo, um "neo-hacker" não é hacker de verdade. Vou continuar usando os termos hacker e neo-hacker para distinguir as duas vertentes.

Considere: hacker é hacker no sentido original do jargão; neo-hacker é profissional de segurança, no sentido distorcido e radicalmente modificado do jargão.

Com os neo-hackers, a qualidade da área de segurança caiu e, com a tendência de haver mais neo-hackers e menos hackers na área, a tendência é a qualidade continuar caindo.

Não é querendo fazer juízo de valor e dizer que "antigamente hackers eram melhores". Mas os resultados e as evidências apontam para algo que eu sempre soube intuitivamente:

O nível de conhecimento e aptidão técnica de alguém que estuda com o próprio propósito de obter conhecimento é ordens de grandeza maior do que alguém que estuda com algum outro propósito.

O hacker estuda para aprender, o neo-hacker estuda pela glória de achar vulnerabilidade em um sistema e/ou para ganhar dinheiro trabalhando na área. Inevitavelmente, hacker tem muito mais conhecimento e aptidão que neo-hacker.

Isso não vale só para segurança da informação. Em qualquer área, quem estuda com algum propósito secundário (como ganhar dinheiro) é radicalmente menos competente do que alguém que estuda a mesma área pelo prazer do aprendizado, por amor ao conhecimento.

Desenvolvimento perdeu qualidade

A área de desenvolvimento de software perdeu qualidade por um motivo relacionado, mas diferente da área de cybersec: desenvolvimento de software perdeu disciplina.

Antes: desenvolvedores eram disciplinados, levavam o que faziam à sério e eram engenheiros de software como deveriam ser.

Agora: o lucro se tornou mais importante. Entender de mercado é mais valorizado do que a disciplina e o zelo pela qualidade.

Desenvolvedores deixaram de serem engenheiros de verdade e se tornaram "homens de negócios". O capitalismo falou mais alto. Substituímos qualidade por agilidade de entrega, engenharia por SCRUM, conhecimento técnico profundo por conhecimento de mercado e o motivo disso é simples: funciona.

Funcionou por muitos anos e as empresas ganharam muito dinheiro. Ser "ágil" é lucrativo e, portanto, desejável.

Saímos da era dos desenvolvedores que entendiam como computadores funcionam em seus mínimos detalhes, e entramos na era dos desenvolvedores que não sabem nem como as ferramentas mais simples que eles usam funcionam.

Se antes desenvolvedores entendiam muito de fundamentos de computação; hoje eles falam que não precisa aprender matemática para programar, que estudar compiladores e kernels é desnecessário, que aprender assembly e arquitetura de processadores é perda de tempo e usam "abstração" como desculpa esfarrapada do porque não precisam aprender sobre essas coisas.

E, pior do que isso, já está ficando popular a opinião de que você nem sequer vai mais precisar aprender código porque o código será feito pelo LLM. De novo, usando "abstração" como desculpa esfarrapada.

As consequências

A gente vive numa ilusão de que nossos sistemas são "seguros", mas eles não são. Mesmo sistemas de empresas grandes (como multinacionais) tem um nível de segurança relativamente baixo.

Big techs meio que criaram essa ilusão porque elas investem bilhões de dólares por ano em segurança, tem equipes dedicadas de pesquisa e por aí vai. Mas o nível de segurança que vemos na Google, Facebook, Apple, Intel etc. é exceção à regra. Também é exceção à regra o nível de segurança dos governos e exércitos das grandes potências (USA, Rússia, China etc) e, naturalmente, de bancos digitais e aviões.

Mas fora essas exceções, o "resto" do mundo digital é muito vulnerável. Seu banco pode ser seguro, mas seu ERP não é...

Estamos pisando em ovos há muitos anos, o mundo digital está em um nível de segurança risível e isso a galera de segurança já sabe e alerta faz muito tempo (e o devs não escutam).

Mas as pessoas continuavam se iludindo achando que seus sistemas digitais são "seguros". E o motivo do porque os ovos não já haviam quebrado antes, é aquela diferença entre hacker e neo-hacker que eu mencionei antes:

Os cibercriminosos, em sua grande maioria, são neo-hackers. Eles não são muito bons no que fazem. Aliás, eles não sabem o que estão fazendo. Por isso, mesmo um sistema muito vulnerável, como o ERP que você usa (sim, o que você usa), os neo-hackers não davam conta de invadir.

Os cibercriminosos que realmente são hackers e sabem o que estão fazendo, são APTs (Advanced Persistent Threat) e costumam visar grandes alvos (como governos, big techs etc.). Por isso eles não estavam nem aí para o ERP que você usa que é cheio de falhas de segurança (sim, o que você usa).

Por muitos anos os desenvolvedores se agarraram nessa esperança frágil de que os caras realmente competentes não iam visar o sistema deles porque não era grande o suficiente para isso. Por muitos anos eu avisei que isso era uma péssima ideia que iam se dar mal no futuro...

Acontece que o futuro chegou, já é hoje. Os neo-hackers já conseguem explorar vulnerabilidades no teu sistema com a ajuda de uma IA.

Não é que a IA seja "super competente" em achar falhas de segurança, é que a segurança desses sistemas sempre foi baixa mesmo. O mundo digital sempre foi muito frágil e sustentado por uma esperança vã que o tempo já provou que é falsa.

As soluções de segurança já existem

Talvez os desenvolvedores tenham sido pegos de surpresa, mas e se eu te contasse que todos os problemas de segurança que a IA tá causando, os hackers já tinham visto antes de LLM virar moda e já criaram soluções?

Para citar exemplos recentes:

  • Supply chain attack: Dependency Pinning e Private Package Registry.
  • Problemas de corrupção de memória: memory safety.
  • RCE: Shadow Stack e defesa em profundidade.

Sabe o teu sistema que usa PHP e você tá morrendo de medo de ser hackeado? Então, o teu processador Intel tem solução de segurança pra isso implementado desde 2016, chamado Intel CET (Control-flow Enforcement Technology).

O Intel CET implementa Shadow Stack que é capaz de mitigar exploits de conseguirem um RCE no PHP, mesmo que você ainda esteja rodando uma versão vulnerável. Isso existe já tem UMA DÉCADA.

Você usa? O PHP usa? A tua distro Linux usa? Não, né?

Sabe por que não? Porque os desenvolvedores tem rixa com os pesquisadores de segurança. É só tu ver a treta do Linus Torvalds com pesquisadores de segurança, para citar um exemplo.

Quer ter rixa com pesquisador? Tenha, mas depois não reclama quando o pesquisador disser "eu avisei".

Obs.: Shadow Stack não mitiga todo tipo de RCE, só os que se baseiam na corrupção de endereço de retorno de funções.

O que os desenvolvedores devem fazer agora

Obs.: Abaixo é só uma sugestão, siga quem quiser seguir.

Minha sugestão para os desenvolvedores é que eles baixem a bola, diminui um pouco o ego. Você sabe ganhar dinheiro com software? Duas palavras para você: para béns.

Mesmo que você tenha ficado milionário desenvolvendo software, você precisa entender que isso não é competência técnica, é competência comercial.

Diminui teu ego e começa a ouvir os especialistas da área. Nenhum dos problemas que você passou ou vai passar por causa de IA, são problemas "inevitáveis". Pelo contrário: especialistas já conheciam soluções para esses problemas décadas antes da IA virar moda.

É tarde demais para você mesmo aprender cybersec. Demoraria muitos anos para você chegar no nível de competência necessário, e até lá a IA já destruiu o planeta, reconstruiu e destruiu de novo.

Então, sua única opção viável, dado o tempo que você tem, é começar a dar ouvidos a quem já tem o conhecimento necessário de cybersec.

Não siga os maus exemplos de desenvolvedores "famosos" desdenhando a pesquisa de segurança. Engole o ego e passa a prestar mais atenção no que pesquisadores de segurança estão falando.

Anos atrás a gente já solucionou os problemas que vocês só estão descobrindo que existem hoje.

Mesmo sendo tarde, para os desenvolvedores que quiserem aprender segurança, sugiro a leitura:

Agora, o pior erro que os desenvolvedores/engenheiros de software podem cometer, é continuar se iludindo que entendem de segurança e não precisam ouvir especialistas da área.

Era para desenvolvedores e profissionais de cybersec serem aliados. Ao invés disso, as pessoas deixam o ego falar mais alto.

Sim, a gente critica o que vocês fazem. Mas não é para se achar superior, é porque a gente tá vendo um problema que precisa de solução. E agora, você também vai ver esses problemas nem que a IA te obrigue a ver...

Sugestão de leitura: https://www.tabnews.com.br/Silva97/voce-deveria-aprender-a-ouvir-criticas

Carregando publicação patrocinada...