Desenvolvedor tenta fazer engenharia reversa em sistema de marca d'água do Google

Um desenvolvedor afirma ter conseguido entender parcialmente o funcionamento do sistema de marca d’água SynthID, criado pelo Google DeepMind para identificar imagens geradas por IA.

O SynthID funciona inserindo uma marca d’água invisível diretamente nos pixels da imagem no momento em que ela é gerada. Essa marca consiste em um padrão matemático distribuído pela imagem, alterando valores de cor e frequência de forma praticamente imperceptível ao olho humano.

O desenvolvedor, conhecido como Aloshdenny, descreveu que utilizou cerca de 200 imagens extremamente simples geradas pelo Gemini, principalmente imagens totalmente pretas ou brancas, e aplicou técnicas de processamento de sinal, como aumento de contraste, saturação e remoção de ruído, para identificar padrões da marca d’água embutida nos pixels.

Aloshdenny admite que não conseguiu remover completamente a marca, apenas confundir sistemas que tentam detectá-la, e reconhece que o sistema é bem projetado.

O Google, por sua vez, afirma que, mesmo que o experimento tenha explorado aspectos do funcionamento do sistema ou conseguido afetar a detecção em alguns casos, isso não significa que a tecnologia tenha sido revertida ou comprometida de maneira útil no mundo real.