Executando verificação de segurança...
4

Meus 2 cents,

Para quem trabalha com IA automatizando acoes, eh um artigo bem interessante de se ler.

Em especial, o modo como isso foi explorado esta descrito aqui:

(spoiler: o RAG usando como base o conteudo de email contendo instrucoes especificas e markdown para interacoes externas)

https://www.aim.security/lp/aim-labs-echoleak-blogpost

Com o crescimento de uso de IA/LLM no dia-a-dia, isso comeca a ser preocupante, especialmente porque nao existe forma simples de se proteger contra isso (diferente dos virus que contem assinatura, eh um prompt em linguagem natural e uso de marcadores markdown - o que torna especialmente complexa sua deteccao).

Carregando publicação patrocinada...
1