1

Meus 2 cents,

Parabens pelo post e pela iniciativa !

Confesso que quando comecei a ler o relato original do ataque, fiquei pensando "WTF ?!?!?!, nao rodaram em sandbox ?" - ate entender que estavam em sandbox e o Agente deu seus pulos por conta propria.

Tenho minhas reservas com o relato, mas enterrar a cabeca na areia nao vai ajudar: o sandbox tradicional pode nao ser o bastante.

Achei o teu projeto bem interessante - ja na lista para testar quando possivel.

Repositorio devidamente starreado e forkeado - obrigado por compartilhar !

OBS: Como voce optou por nao publicar o endereco do github do projeto aqui, vou seguir e nao vou colocar tambem (apesar de ser simples acha-lo).

Saude e Sucesso !

Este post foi favoritado via extensão TABNEWS FAVORITOS

Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS

Carregando publicação patrocinada...
1

Cara, eu fico um tanto apreensivo. Com as devidas ressalvas, o que já não estão fazendo por aí de ruim que nem ficamos sabendo? seja por um cracker malicioso ou até mesmo essas empresas que dizem respeitar nossa privacidade, nossos dados...olha só o nível que essas tecnologias apresentam...deveras absurdamente absurdo. Grato la no repo, man.

1

Pois eh, teve tambem aquele caso do Grok Build que mandava o repositorio para a SpaceXAI e da campanha de projetos maliciosos no github, so na ultima semana.

A escala disso que eh problematica pacas, criar as salvaguardas necessarias toma um tempo consideravel.

Esta semana um cliente criou um sistema especifico para a empresa dele usando agente (claude). Ate ai, tudo bem. So que ele me pediu para instalar nos servidores da empresa para uso geral: tomou um tempo razoavel, tive de primeiro auditar para ver se nao tinha nada estranho, o que o sistema fazia, etc - ate me sentir seguro de colocar no ar.

So que o cliente ficou chateado: ele imaginou que seriam 10 min para colocar no ar e nao 1 semana (auditar demorou 20x mais que criar o sistema).

A IA criou uma nova versao da famosa "corrida de ratos", e comeco a ver que a energia que precisa ser gasta aqui nao esta sendo devidamente computada.

Saude e Sucesso !