Pesquisadores enganam Gemini usando eventos de calendário para controlar dispositivos inteligentes

Pesquisadores da Universidade de Tel Aviv demonstraram um ataque inédito contra modelos de IA com impacto direto no mundo real. A técnica, chamada de “promptware”, explorou a capacidade do Gemini de se integrar ao ecossistema de aplicativos do Google, utilizando um ataque de injeção indireta de prompt — quando comandos maliciosos são inseridos por terceiros, sem o conhecimento do usuário.

No experimento, os pesquisadores criaram um compromisso no Google Agenda com uma descrição que, na verdade, continha instruções maliciosas. Quando o usuário solicitava ao Gemini um resumo de sua agenda, o modelo processava automaticamente o evento contaminado e executava as instruções.

A partir desse método, foi possível assumir o controle de dispositivos domésticos inteligentes conectados ao Google, como luzes, termostatos e persianas. Além disso, o ataque permitia outras ações maliciosas, como gerar conteúdo ofensivo, enviar spam, excluir compromissos de forma aleatória e até abrir sites com código malicioso, expondo o usuário a malware e roubo de dados.

O Google, em colaboração com os pesquisadores, já aplicou correções para mitigar a vulnerabilidade.