Cara, eu fico um tanto apreensivo. Com as devidas ressalvas, o que já não estão fazendo por aí de ruim que nem ficamos sabendo? seja por um cracker malicioso ou até mesmo essas empresas que dizem respeitar nossa privacidade, nossos dados...olha só o nível que essas tecnologias apresentam...deveras absurdamente absurdo. Grato la no repo, man.
Pois eh, teve tambem aquele caso do Grok Build que mandava o repositorio para a SpaceXAI e da campanha de projetos maliciosos no github, so na ultima semana.
A escala disso que eh problematica pacas, criar as salvaguardas necessarias toma um tempo consideravel.
Esta semana um cliente criou um sistema especifico para a empresa dele usando agente (claude). Ate ai, tudo bem. So que ele me pediu para instalar nos servidores da empresa para uso geral: tomou um tempo razoavel, tive de primeiro auditar para ver se nao tinha nada estranho, o que o sistema fazia, etc - ate me sentir seguro de colocar no ar.
So que o cliente ficou chateado: ele imaginou que seriam 10 min para colocar no ar e nao 1 semana (auditar demorou 20x mais que criar o sistema).
A IA criou uma nova versao da famosa "corrida de ratos", e comeco a ver que a energia que precisa ser gasta aqui nao esta sendo devidamente computada.
Saude e Sucesso !
Rapaz, eu passei por algo similar...uma clínica queria um sistema completo de gestão. Esteira de atendimento médico, alertas por whatsapp, gerenciamento de pessoas da empresa, faturamento, financeiro, automação de prescrição de exames, integração com e-social e integração com gateway de pagamento e emissão de NF. Ai dei meu preço. Achou caro, ouviu alguém do YT dizendo que dava para fazer com Lovable, foi la e começou a criar. Chegou na parte da integração com pagamento e NF, travou e veio até mim. Eu não gosto de enganar ngm, e tbm prezo pelo meu nome, não quis fazer as integrações sem antes ler os codigos para ver se haviam falhas e fragilidades que pudessem corromper o sistema e vazar os dados que eu viria a integrar. Fiz a auditoria completa achei centenas de falhas. Fiz um relatório completo e passei para a clínica. Ignoraram e foram atras de outra empresa para criar. Ngm quis (empresa séria). Mas encontraram um dev la que cobrou 500 reais para colocar essas integrações e sem verificar os codigos. Eu não fiz, pq ja fui advogado e entendo de responsabilização de terceiros e mesmo com termo assinado, era muito tranquilo jogar problema para o meu lado quando vazasse dados por conta dessas falhas, mas a clínica com toda certeza iria jogar para mim como responsável e mesmo com termo assinado, poderiam alegar desconhecimento técnico no termo e na execução do trabalho. Até eu provar que focinho de porco não é tomada, iria me consumir tempo, dinheiro e credibilidade.
Então, até para trabalhar em cima de código de terceiros feito com IA, precisa da devida cautela para você não se ferrar junto com o dono do código vibe codado (descuidado).