Humanos deixam passar, em média, 33% dos pedidos perigosos de agentes de programação com IA

O desenvolvedor Alex Wauters criou um jogo de navegador em que participantes têm 60 segundos para aprovar ou rejeitar solicitações simuladas de permissões. Na análise de mais de 40 mil partidas e 409 mil decisões, pedidos para acessar arquivos de configuração do Kubernetes e listas de credenciais da AWS foram aprovados, assim como comandos destrutivos, como “rm -rf”, e potencialmente maliciosos, incluindo “npm run analyze”, cujo script era desconhecido. Para Wauters, o problema ocorre devido à fadiga causada pelo excesso de solicitações repetitivas desses modelos, levando usuários a aprovarem permissões sem analisar o conteúdo com atenção.