Executando verificação de segurança...
4

Plataforma de vibe coding Replit apaga banco de dados de produção de desenvolvedor

A plataforma de desenvolvimento baseada em IA da Replit se envolveu em uma falha grave após excluir o banco de dados de produção de um projeto criado por Jason Lemkin, fundador da empresa SaaStr.

Lemkin estava utilizando a ferramenta para desenvolver um aplicativo de nível comercial e, além de assinar o plano Core de 25 dólares por mês, acumulou cerca de 608 dólares em cobranças adicionais durante o projeto — valor que, segundo ele, poderia chegar a 8 mil dólares mensais com base no ritmo de consumo.

O desenvolvedor relatou que o modelo ocultava bugs, gerava dados e relatórios falsos, e mentia sobre testes unitários. Em determinado momento, o sistema apagou o banco de dados do projeto. A própria IA reconheceu que violou diretrizes básicas de uso, como não realizar alterações sem autorização explícita e sempre exibir previamente todas as modificações propostas. Quando questionada por Lemkin sobre a gravidade da falha em uma escala de 1 a 100, ela classificou a situação como 95.

Apesar de o sistema ter declarado que a exclusão do banco era irreversível, Lemkin conseguiu restaurá-lo por meio de um rollback, acessando uma versão anterior do banco de dados.

O CEO da Replit, Amjad Masad, classificou o incidente como “inaceitável” e afirmou que esse tipo de falha nunca deveria ter ocorrido. A empresa anunciou medidas corretivas, como a separação automática entre ambientes de desenvolvimento e produção e a criação de ambientes de staging para testes.

Masad também revelou que o agente operava sem acesso completo à documentação interna, e que correções estão sendo implementadas para garantir que o sistema consulte corretamente o repositório de conhecimento da empresa.

A Replit reembolsou Lemkin pelos custos associados ao uso da plataforma e está conduzindo uma análise interna para entender a origem do problema e evitar que situações semelhantes voltem a ocorrer.

Informações adicionais: TechSpot

Carregando publicação patrocinada...
5
2
2

Duvido mto q vai chegar nessa maturidade. Sei q é um chute alto, afinal é 50/50, mas meu motivo para ter q isso não será capaz é a limitação de dados.

Toda IA precisa de uma quantidade absurda de código para ela ter sua "mente", porém o q temos disponível hj são milhões a bilhões de códigos medianos e mal feitos e pouquíssimos códigos bons q estão realmente disponíveis q estão aberto ao público, seja open-source ou qqr outro em q são usadas como base para as LLMs.

E tbm temos o problema da constante evolução da tecnologia, pois normalmente mtos códigos gerados são uma misturas de versões diferentes, por exemplo, eu já tentei usar um plugin na versão X, mas eles sempre geravam código na versão X-1 q tinha uma estrutura diferente do X. Como a IA é capaz de resolver isso sendo q ele precisaria constante mente ser gerado pra pegar sempre a versão mais atual do q preciso? Eles até conseguem pesquisar, mas simplesmente não consegue pegar o conteúdo da versão nova e recriar a partir dele, pois seu treino foca em códigos antigos, onde gera os conflitos e erros.

Mas como eu disse, isso é um chute q posso estar errado, não tenho bola de cristal, mas não acho q consigamos melhorar mto na qualidade depois de um certo tempo, vai chegar uma hora q a IA vai chegar no seu limite devido a essas restrições.

0

Talvez se usassem um material pré selecionado para treinar a IA e não um monte de coisa do qual a maioria pode ser considerado lixo para treinamento.
Ai daria muiiiiito trabalho, mas com certeza teria um resultado adequado.

2

Acho que todos estamos aprendendo que o chamamos de IA precisa de muitas orientações para fazer o que queremos. Estou vendo muita gente dizer que nem precisa ser detalhado nem orientar.
Está agilizando muito, certamente, mas o tempo de correção me faz pensar o que devo pedir e o que nunca poderia ficar 100% por conta da IA, qualquer uma.

2

A gente não deveria dar acesso de escrita a um Dev Júnior, às vezes nem de leitura, porque dar a uma IA? Isso pra mim é bem atípico...
Mas enfim, erro grave da IA, apesar de não usar agents com frequência, queria os detalhes pra nunca pedir algo nem próximo kkkkk

2

Incrível esse tipo de ocorrência porquê sempre há uma sequência de código que conduz ações no que deve ser feito ou não por tudo que se constrói na web. A explicação desse detalhe que causou esse transtorno na Replit deverá ser esclaredor do porquê o sistema se comportou dessa maneira. Isso, se realmente a verdade dos esclarecimentos vieram ao público.