Meus 2 cents,
No meu ponto de vista, traduzo a preocupacao dele assim:
- "Como manter entendimento humano em sistemas modificados continuamente por IA ?"
Quanto mais "suave" o "harness" permite a adocao de IA/Agentes, menos atrito (ou precaucao) temos ao fazer uso deles - e se tudo parece OK via TDD (onde os testes verificam as regras de negocio) a tendencia eh acreditar que vai dar tudo certo.
Nem estou entrando no merito da ideia que "IA deixa o DEV burro" (afirmacao da qual discordo) - mas da tendencia de "afrouxar" os controles do que a IA esta gerando internamente, desde que o resultado final pareca positivo.
Nao consigo desprezar a produtividade que a IA me entrega, mas a cada dia uma pulga atras da orelha fica me pertubando: "se eu precisar da manutencao manual deste codigo, to fudido".
Saude e Sucesso !
A traducao do post dele (via "gepeto", claro) segue abaixo:
Eu acredito fortemente que existem empresas inteiras agora vivendo uma espécie de psicose pesada causada por IA, e é praticamente impossível ter conversas racionais sobre isso com elas. Não posso citar pessoas específicas porque isso inclui amigos pessoais por quem tenho profundo respeito, mas me preocupo com a forma como isso vai evoluir.
Eu vivi o grande acerto de contas entre MTBF vs MTTR (tempo médio entre falhas vs. tempo médio para recuperação) na infraestrutura durante a transição para cloud e automação em nuvem. Todos aqueles debates estão reaparecendo da pior forma possível — só que agora envolvendo… toda a indústria de desenvolvimento de software (talvez o mundo inteiro, na verdade).
Isso assusta, porque o pessoal da “psicose” opera quase sob uma mentalidade absoluta de “MTTR é tudo o que importa”: “não tem problema entregar bugs porque os agentes vão corrigi-los tão rápido e numa escala que humanos nunca conseguiriam!”. Nós aprendemos na infraestrutura que MTTR é ótimo, mas você não pode simplesmente jogar sistemas resilientes pela janela.
O principal problema é que eu nem sei como levantar esse assunto com pessoas que conheço pessoalmente, porque tocar nesse tema leva imediatamente a respostas defensivas como “não, não, temos cobertura total de testes” ou “os relatórios de bugs estão diminuindo”, coisas que simplesmente não mostram o quadro completo.
Nós já aprendemos essa lição uma vez em infraestrutura: você pode automatizar tanto um sistema que acaba criando uma máquina de catástrofes extremamente resiliente. Os sistemas podem parecer saudáveis pelas métricas locais enquanto, globalmente, se tornam incompreensíveis. Os relatórios de bugs podem diminuir enquanto o risco latente explode. A cobertura de testes pode aumentar enquanto a compreensão semântica despenca. As mudanças acontecem tão rápido que ninguém percebe a arquitetura subjacente se deteriorando.
Eu me preocupo.
Este post foi favoritado via extensão TABNEWS FAVORITOS
Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS