4chan pode ter estado na origem de deepfakes de Taylor Swift

Os utilizadores do 4chan parecem estar a criar um “jogo” para a comunidade, focado em explorar as plataformas de criação de imagens via IA, com o objetivo de criar imagens deepfake da cantora Taylor Swift.

Esta pode também ter sido a origem de uma onda de imagens da cantora, que foram partilhadas em plataformas como a X, focadas em conteúdos deepfake criados por IA.

Segundo a empresa Graphika, a análise do incidente que ocorreu no final do mês de Janeiro foi identificado como tendo origem em alguns grupos no 4chan, que estariam a explorar ferramentas de criação de imagens via IA para manipular imagens da cantora.

Os investigadores afirmam que estes grupos teriam como objetivo contornar as proteções aplicadas em vários sistemas de criação de imagens via IA, com o objetivo final de criar imagens sexualmente explicitas da cantora e de várias outras celebridades.

Estes grupos terão mesmo partilhado formas de contornar os bloqueios, ou de evitar que as suas contas sejam banidas das plataformas de IA.

Bing Image Creator, Microsoft Designer e o modelo DALL-E da OpenAI foram algumas das ferramentas usadas para a tarefa, e consideradas as mais fáceis de contornar para criar as imagens finais.

Em comunicado, a OpenAI nega que o DALL-E tenha sido usado para criar imagens deepfake da cantora, enquanto a Microsoft continua a indicar que se encontra a investigar o incidente e a origem do mesmo a partir das suas ferramentas.

Apesar de o foco ter sido na cantora Taylor Swift, os grupos do 4chan terão também tentado explorar os sistemas usando outras celebridades, embora com menos sucesso.

De relembrar que a situação foi de tal forma grave que a X teve mesmo de suspender as pesquisas pelo nome da cantora, como forma de evitar o acesso a conteúdos potencialmente explícitos da mesma.