O Google está a testar uma marca d’água digital para detetar imagens feitas por inteligência artificial (IA) para combater a desinformação – desenvolvido pela DeepMind, braço da IA do Google, o SynthID vai permitir identificar imagens geradas por máquinas e funciona incorporando alterações em pixels individuais nas imagens, de modo que as marcas d’água sejam invisíveis ao olho humano, mas detetáveis pelos computadores. No entanto, a DeepMind sublinhou que não é “infalível contra a manipulação extrema de imagens”.
A evolução da tecnologia tem tornado cada vez mais complexo distinguir entre uma imagem real e imagens geradas artificialmente, com os geradores de imagens de IA a tornarem-se populares, com a popular ferramenta Midjourney a contar já com mais de 14,5 milhões de utilizadores. A ferramenta permite que as pessoas criem imagens em segundos, inserindo instruções de texto simples, o que levantou questões sobre direitos autorais e propriedade em todo o mundo.
O Google possui o seu próprio gerador de imagens (Imagen) e o seu sistema de criação e verificação de marcas d’água só se aplica a imagens criadas com esta ferramenta.
As marcas d’água são normalmente um logotipo ou texto adicionado a uma imagem para mostrar a propriedade, bem como parcialmente para dificultar a cópia e uso da imagem sem permissão. Mas estas não são adequadas para identificar imagens geradas por IA porque podem ser facilmente editadas ou recortadas.
O Google cria, dessa forma, uma marca d’água efetivamente invisível, que permitirá que as pessoas usem o seu software para descobrir instantaneamente se a imagem é real ou feita por máquina. Pushmeet Kohli, chefe de pesquisa da DeepMind, sublinhou, em declarações aos britânicos da ‘BBC’, que o seu sistema modifica as imagens tão sutilmente “que para você e para mim, para um ser humano, isso não muda”.
Se a imagem for posteriormente cortada ou editada, o software da empresa ainda pode identificar a presença da marca d’água. “Pode-se mudar a cor, mudar o contraste e até redimensioná-lo mas o DeepMind ainda será capaz de ver que é gerado por IA”, explicou.
A Microsoft e a Amazon estão entre as grandes empresas de tecnologia que, como o Google, se comprometeram a colocar marcas d’água em alguns conteúdos gerados por IA.
