Google amplia tecnologia de marcação d’água e detecção de conteúdo AI para novos meios
Durante o evento Google I/O, a empresa revelou uma série de novos modelos e ferramentas de inteligência artificial (IA), e também anunciou a expansão de sua tecnologia de marca d’água e detecção de conteúdo AI para abranger dois novos meios de comunicação.
O CEO do DeepMind, Demis Hassabis, fez sua primeira aparição no palco da conferência de desenvolvedores do Google para falar não apenas sobre as novas ferramentas de IA da equipe, como o gerador de vídeo Veo, mas também sobre o aprimorado sistema de marca d’água SynthID. Agora, ele pode marcar vídeos que foram gerados digitalmente, bem como textos gerados por IA.
A marcação d’água de conteúdo gerado por IA será cada vez mais importante à medida que a tecnologia ganha prevalência, especialmente quando a IA é usada para propósitos maliciosos. Ela já foi usada para espalhar desinformação política, fazer parecer que alguém disse algo que não disse e criar conteúdo sexual não consensual.
O SynthID foi anunciado em agosto do ano passado e começou como uma ferramenta para marcar imagens geradas por IA de uma maneira que os humanos não podem visualmente decifrar, mas podem ser detectadas pelo sistema. A abordagem difere de outros protocolos de marcação de água como o C2PA, que adiciona metadados criptográficos ao conteúdo gerado por IA.
O Google também habilitou o SynthID para injetar marcas d’água inaudíveis em música gerada por IA que foi feita usando o modelo Lyria do DeepMind. O SynthID é apenas um dos vários mecanismos de segurança de IA em desenvolvimento para combater o uso indevido da tecnologia, mecanismos esses que a administração Biden está orientando as agências federais a criar diretrizes ao redor.
Fonte: Umar Shakir
https://www.theverge.com/2024/5/14/24155927/google-ai-synthid-watermark-text-video-io
