Pesquisadores da Microsoft identificam “zero-day biológico” gerado por IA em sistemas de triagem de pedidos de DNA

Pesquisadores liderados pela Microsoft descobriram uma vulnerabilidade em sistemas que verificam pedidos de DNA e ajudam a impedir que pessoas adquiram material genético capaz de gerar vírus ou toxinas perigosas. A falha, descrita como um “zero-day biológico”, permite que certas toxinas criadas com IA passem despercebidas por esses softwares de segurança.

Atualmente, empresas que vendem sequências de DNA utilizam programas que comparam os pedidos com listas de substâncias perigosas conhecidas. Sequências suspeitas são revisadas manualmente. O problema identificado ocorre porque a IA pode gerar proteínas novas com a mesma função de uma toxina real, mas com sequências genéticas diferentes, tornando-as indetectáveis pelos sistemas tradicionais.

Os pesquisadores testaram a vulnerabilidade criando cerca de 75 mil variações de proteínas a partir de 72 toxinas conhecidas, como a ricina, e analisaram o desempenho de quatro softwares de triagem. Dois detectaram bem as versões perigosas, um apresentou desempenho mediano e outro deixou passar a maioria.

Após o alerta, três programas foram atualizados e aumentaram significativamente a capacidade de identificar variantes tóxicas, embora ainda haja um pequeno número de sequências — cerca de 1% a 3% das versões muito semelhantes às originais — que podem escapar da detecção.

Para que essas versões passassem despercebidas na prática, seria necessário encomendar mais de 50 amostras diferentes, o que provavelmente chamaria atenção e geraria suspeitas.