Polícia armada cerca estudante de 16 anos nos EUA após IA confundir pacote de Doritos com arma

Segundo Taki Allen, ele estava na escola quando cerca de oito viaturas chegaram ao local. Os policiais ordenaram que ele se ajoelhasse, colocasse as mãos para trás e, em seguida, o algemaram. Após a revista, nada foi encontrado.

A polícia mostrou ao estudante a imagem capturada pela IA que havia acionado o alerta. O sistema, que analisa imagens de câmeras de segurança e envia notificações em tempo real quando acredita ter identificado uma arma, teria interpretado o pacote amassado em seu bolso como um objeto perigoso.

O incidente reacendeu o debate sobre a confiabilidade das tecnologias de vigilância baseadas em IA e os riscos de falsos positivos, especialmente em ambientes escolares. A empresa responsável pelo sistema reconheceu o erro, mas declarou que o software “funcionou como esperado”.