Google lança programa de recompensas para falhas em seus produtos de IA

A iniciativa contempla falhas classificadas como “ações descontroladas”, nas quais sistemas de IA executam comandos não intencionais. Entre os exemplos citados estão injeções de comandos que poderiam fazer o Google Home destrancar uma porta ou ataques de prompt capazes de resumir e-mails de uma pessoa e enviar o conteúdo ao invasor.

Segundo o Google, uma falha de IA é qualquer vulnerabilidade que utilize modelos de linguagem ou sistemas generativos para causar danos ou explorar brechas de segurança, sendo as ações maliciosas consideradas as mais graves. Isso inclui comprometer contas, manipular dados de usuários ou executar ações não autorizadas.

Apenas induzir o Gemini a gerar respostas incorretas, por exemplo, não é suficiente para receber uma recompensa. Questões relacionadas a conteúdo gerado pelos sistemas, como possíveis violações de direitos autorais, devem ser reportadas pelos canais de feedback internos de cada produto.

O valor máximo pago será de 20 mil dólares, destinado a quem identificar falhas em serviços como o buscador, Gemini e Google Workspace (incluindo Gmail e Drive). No entanto, relatórios originais e de alta qualidade poderão receber multiplicadores e bônus adicionais, elevando o prêmio total para até 30 mil dólares.

Informações adicionais: Google