Google SynthID pretende reduzir deep fakes criadas por IA

As tecnologias de Inteligência Artificial encontram-se a evoluir consideravelmente, tanto que começa também a surgir várias questões no que respeita à origem de conteúdos pela internet. As tecnologias de IA facilitam consideravelmente a criação de deepfakes, um problema que a Google agora pretende combater.

A Google pretende evitar que a IA possa ser usada para a criação de deep fakes com a sua nova SynthID. Esta ferramenta é capaz de colocar uma marca de água invisível nas fotos criadas via IA, que identifica a origem das mesmas e é capaz de dizer se a imagem foi feita por IA ou não.

A ideia será ter uma forma de identificar, rapidamente, as imagens criadas por intermédio de IA. As ferramentas que criam tais imagens, e que tenham o SynthID, injetam uma assinatura invisível nas mesmas, que rapidamente permite identificar os conteúdos como tal.

A ideia será que esta assinatura possa reduzir a possibilidade de conteúdos criados via IA sejam usados para criar deepfakes, validando a origem dos conteúdos.

O SynthID usa um sistema onde os modelos de IA usados para criar a imagem final colocam uma assinatura diretamente em cada imagem, com base nos conteúdos originais usados pelos modelos de IA para criar a mesma. Desta forma, a assinatura será especifica para cada conteúdo criado via IA.

A vantagem do SynthID da Google encontra-se no facto de ser invisível para os utilizadores em geral, não afetando a qualidade da imagem, e de ser bastante difícil de remover da mesma.

Como a assinatura é criada no momento em que os modelos de IA são usados, é bastante complicado de a remover completamente da imagem final. Além disso, o sistema pode ainda ser usado para identificar a origem das imagens, quando foi criada e outras informações importantes.

Os interessados em conhecer ou usar a tecnologia podem verificar o site da Google para mais informações.