Reflexões sobre o uso de IA
Apenas um texto para ventilar e explorar questões mais do que pretender resolvê-las. Não pretendo agregar nada de novo na conversa nem impressionar ninguém. Talvez isso fique mais filosófico do que eu pretendia, inclusive...
Ultimamente tenho refletido sobre o uso indiscriminado de IA no trabalho. As empresas, desde as de pequeno porte até as de grande porte, têm adotado um uso indiscriminado de IA num efeito manada. As próprias empresas responsáveis por lucrar com a adoção da ferramenta se aproveitam do FOMO inerente do setor de tecnologia, que por natureza sempre foi aberto a evoluções e adaptações, para disseminar um discurso inflamatório e pregar previsões chocantes sobre os próximos anos (que nunca se realizam e estariam mais próximas da realidade se simplesmente citassem o roteiro de algum De Volta Para o Futuro). Esse discurso, para o espanto de ninguém, é sempre direcionado aos executivos e mais leigos, focando em sensacionalismo e, como os golpes de internet, no senso de urgência. Resumindo, o estado atual é: CEOs dizem a outros CEOs que se estes não pagarem por seus serviços, seus negócios ficarão para trás. Nada de novo até aqui: essa história já se repetiu inúmeras vezes dentro e fora do setor de tecnologia.
A IA tem sim um grande valor. Na minha opinião, já é seguro afirmar que estes novos modelos de LLM em transformers, responsáveis por toda esta ruptura global, foram a maior invenção desde a internet e continuarão presentes no nosso cotidiano daqui para frente em pelos menos algum grau. Todas as novas possibilidades que se desdobrarão com a implementação das IAs em diversos setores só pode ser especulada, mas com certeza causará um impacto positivo enorme de forma geral. Entretanto, neste texto não quero focar em discutir as aplicações e benefícios para a humanidade. Quero, ao invés, focar em como já tenho percebido os efeitos negativos dela ao meu redor, principalmente como programador, e levantar algumas questões que me assombram e que ainda não tenho respostas.
Eu vejo isso nas pessoas
Quando comecei na área, lembro que minha motivação de todos os dias era ficar cada vez melhor. Eu queria sempre atualizar minha lista de leitura e por isso discutia sobre livros de tecnologia com o meu lead. Discutiamos sobre como ele começou na área e os desafios que enfrentou, e comparava a realidade dele com a minha. Ele me falava em como os livros que eu pretendia ler teriam ajudado ele quando era mais iniciante e me dava dicas para que aprendesse com seus erros. Sempre que eu não conseguisse resolver um problema, depois de muito tentar e pesquisar, eu sabia que podia recorrer a ele (ainda que demorasse horas ou, muitas vezes, dias para me responder). Ele, às vezes, também não sabia resolver o problema, e então nos juntávamos em pair coding para juntos discutir as ideias e chegar na solução.
Repare: esse processo todo que descrevi pode ser resumido em dizer que, como aprendiz, eu precisava aprender sobre os conceitos, compreender as ferramentas que usava e passar por diversos desafios para aprender com exemplos e guardar eles na memória para um caso futuro. Quando chegasse minha vez, alguns anos no futuro, seria eu aquele capaz de não apenas resolver o problema como ensinar o iniciante a resolvê-lo. Pensar nesse futuro fazia meus olhos brilharem, pois minha maior motivação era querer um dia virar a referência de outras pessoas e ser requisitado por elas.
Com IA, você simplesmente pula toda esta parte. O iniciante vai conseguir resolver os mesmos problemas que um veterano, porque agora não precisa mais compreendê-los. Claro, a IA vai explicar para ele todo o raciocínio dela se ele quiser. O iniciante, entretanto, consumido pelo desejo de lançar rápido dezenas de PRs por semana e se mostrar produtivo, ou talvez bater a cota de tokens gastos semanais, não vai ter tempo para parar e ler a explicação do problema. Na verdade, mais que isso, ele não vai ter motivos para isso. Primeiro: por que ele precisa compreender os problemas se não é ele quem vai ter que resolvê-los daqui para frente?; segundo: por que ele se incomodaria em compreender os conceitos agora se, já que nem precisa mais escrever código, não vai de fato aplicá-los e daí vai esquecer o que leu semana que vem?
Eu vejo isso nas perspectivas de carreira
Hoje, temos a capacidade de revisar código completamente feito por IA porque aprendemos a fazer código sem ela. Nós sabemos como a linguagem de programação funciona, como a CPU opera, como a memória é alocada e como a rede conecta os clientes e servidores pelo mundo. Conseguimos trabalhar no famoso modo vibe coding e nos sentimos ótimos com isso. Somos veteranos hoje porque já fomos iniciantes no passado. Mas e os iniciantes de hoje, que sequer precisam aprender a diferença entre linguagem interpretada e compilada, serão eles os responsáveis por revisar os PRs e manter a base de código no futuro? Os sêniores de hoje, percebendo isso, ficam muito felizes porque concluem que isso só vai valorizar cada vez mais os próprios salários. Mas será que o valor do profissional do futuro será medido com a mesma régua de hoje?
"Agora não preciso mais fazer os corno-jobs!". "Agora não preciso mais debuggar!". "Agora não dependo mais dos frontenders para fazer os frontends!". "Agora consigo focar no que realmente importa!". Chega no final do expediente, você olha para trás e percebe que só hoje conseguiu subir 10 mil linhas. Ontem foram outras 10 mil. Depois você tenta lembrar de todas essas linhas que subiu, mas só sabe o intuito geral das features que subiu, não como elas funcionam. Se hoje alguém te perguntar como elas funcionam no detalhe, você percebe que não saberia explicar. Se futuramente alguém precisar da sua ajuda para dar manutenção, você não saberia nem por onde começar, porque de fato não foi você quem escreveu todo aquele fluxo: você só revisou. Tomara que quando esse dia chegar a empresa ainda esteja pagando a assinatura de IA para todos. Ou pelo menos, que ela não exija que você pague a própria assinatura.
Você olha para o seu colega de trabalho agora, com medo de estar sozinho nessa, e pergunta para ele, também com medo da resposta: "ei, como você fez a sincronização de base de semana passada, foi tudo em lambda, precisou dividir em lotes?". Ele dá uma risada e diz "não sei, deixa eu dar uma olhada aqui". Enquanto ele tenta entender o fluxo (na verdade pela tela dele você viu que ele só pediu pra IA explicar o fluxo), você vai para outro colega e pergunta: "aquele front que você fez onde a gente consegue monitorar em tempo real os dados integrados com a outra base, faz polling ou foi via SSE?". Este outro colega fica parado olhando para sua cara por um tempo, tentanto entender do que você está falando, quando tem um estalo e diz: "aaah, sei. Não fui eu quem fez aquela tela, foi um cara do time de operações. Ele estava precisando disso rápido, daí deram acesso ao GitHub para ele poder fazer com IA e não depender da gente".
Juntos, todos vocês (e a IA, claro) foram capazes de lançar um SaaS em poucas semanas que alguns anos atrás teria demorado mais de um ano. O CEO está muito feliz com isso. O CTO também. Ninguém percebeu que ninguém ali entende como o sistema funciona no detalhe, mas apenas como ele está desenhado somando todos os fluxos no Lucid e Excalidraw (tomara que estes estejam atualizados!, você pensa, porque é com base neles que vocês fazem as reuniões e aprensentações para os clientes). O CEO não percebe que a empresa dele precisa, todo mês, pagar um resgate ao serviço de IA contratado para que o sistema continue sendo mantido. Ele não sabe que dali a algum tempo vai perceber que precisará repassar todo o gasto com tokens para a precificação do próprio serviço (os tokens têm ficado realmente caros nos últimos tempos), o que deixará alguns clientes insatisfeitos e, somado ao recente aumento de falhas no sistema, os levará ao churn. Ele também não percebe como isso vai levar a um layoff na empresa porque ele anda perdendo alguns clientes que perceberam que não precisam mais pagar sua empresa pelo serviço: eles preferiram criar ferramentas internas com IA que fazem alguns dos serviços que você providenciava e que eram os que realmente importavam para eles. Sim, um layoff com certeza será necessário. Mas continuar pagando a IA em dia é imprescindível.
Passado algum tempo os desenvolvedores estão ficando mais cansados e desanimados. Eles estão produtivos como nunca, mas, estranho, mesmo sem precisar escrever nenhuma linha de código eles andam dizendo que se sentem muito esgotados "de tanto revisar código". Deve ser preguiça.
Fico pensando: se eu estivesse entrando na área hoje, teria toda aquela mesma motivação para estudar todos os dias e me tornar um sênior? Não... acho que não. Como eu poderia continuar almejando me tornar a referência de alguém se essa referência não existe mais? Hoje, os leads ainda fazem 1o1 com seus liderados, perguntam sobre suas ambições de carreira e traçam planos para que eles se tornem especialistas em algo. Isso ainda vai continuar fazendo sentido no futuro?
Também fico pensando: como os CTOs não conseguem enxergar isso? Não deveriam ser eles os mais experientes, capacitados a enxergar mais longe, à frente do restante? Ou será que enxergam, mas escolhem não reagir para não arriscar um movimento errado que vai contra o que todos estão fazendo?
Eu vejo isso nas partes que não sei nomear
Isso tudo me parece como o paralelo entre o livro físico e o Kindle, ou entre a foto digital e a foto em filme. Se você encarar esses dilemas de um modo prático e objetivo, a escolha é óbvia. O resultado é o mesmo, mas alcançado de modo mais eficiente. Dentro da área de tecnologia, especialmente, somos ensinados que isso é o mais importante e o resto é saudosismo.
Entretanto, se a escolha é tão óbvia, por que ainda existem tantas pessoas que, ao provarem dos dois, continuam escolhendo o pior método? Estas pessoas nem sequer sabem justificar por quê preferem gastar mais dinheiro comprando livros e lendo no papel, segurando volumes pesados e se vendo privadas de ler no escuro. Ainda assim o fazem. Talvez porque o resultado prático não seja, afinal, a única coisa que importa. Assim como Ray Bradbury já havia previsto há décadas em Fahrenheit 451, optar cada vez mais pelo mais prático pode levar a consequências inimagináveis no futuro, nos tornando cada vez menos como humanos e mais como máquinas. Estas sim, são meramente ferramentas, feitas sempre com um objetivo prático que deve ser alcançado da forma mais eficiente. E os humanos?
Apesar do que o capitalismo nos prega, trabalho não é apenas uma forma de conseguir dinheiro. O ser humano se realiza quando interage com o mundo e cria. Quando todo o trabalho humano puder ser substituído, o que sobra? Quando ninguém mais precisar do outro, o que sobra? Tentar lutar contra esse cenário, caso de fato um dia nos deparemos com ele, não seria viável ou sequer possível, imagino. Penso que seria, inclusive, ir contra nossa própria natureza. Entretanto, olho para trás, para toda nossa história, e ainda não consigo deixar de me perguntar: o que sobra?
Penso nisso tudo enquanto escuto The Velvet Sundown.