Comandos ocultos em pixels de imagens podem manipular agentes de IA, segundo estudo

Pesquisadores da Universidade de Oxford identificaram que agentes de IA podem ser explorados por meio de códigos maliciosos embutidos em imagens aparentemente inofensivas exibidas na tela do computador.

Essa técnica poderia ser aplicada em papéis de parede, anúncios, PDFs sofisticados ou posts em redes sociais, que carregam mensagens invisíveis ao olho humano, mas capazes de manipular esses sistemas e abrir caminho para invasores. Um agente comprometido poderia excluir ou compartilhar dados pessoais com terceiros. Uma imagem publicada no X poderia instruir o sistema a retuitar o conteúdo, desencadeando um efeito em cascata.

Utilizando um modelo de código aberto, os pesquisadores demonstraram como pequenas alterações em pixels permitem embutir comandos ocultos. Enquanto um usuário humano enxerga, por exemplo, a foto de uma celebridade, o sistema interpreta instruções para expor informações confidenciais. As mensagens escondidas nos pixels resistem inclusive a redimensionamentos e compressões

Embora ainda não haja registros reais fora de ambiente experimental, o estudo alerta para a vulnerabilidade, sobretudo em agentes baseados em modelos de código aberto. Por oferecerem acesso ao funcionamento interno, esses modelos permitem que qualquer pessoa estude como a IA interpreta pixels e insira instruções maliciosas.

Os papéis de parede são apontados como uma ameaça particular, já que permanecem constantemente visíveis e podem servir como uma “porta de entrada permanente”.

Mesmo que os testes tenham se concentrado em modelos de código aberto, os pesquisadores destacam que sistemas fechados também podem estar suscetíveis.