X suspende temporariamente pesquisas por Taylor Swift após onda de deepfakes

Durante a semana passada, várias imagens deepfake associadas com a cantora Taylor Swift foram partilhadas na X, criadas usando sistemas de IA. Estas imagens apresentavam a cantora em cenas explicitas, tendo sido usados sistemas de IA para criar os conteúdos falsos e enganadores – que muitas vezes encontravam-se também associados a grupos de spam e phishing para outros esquemas.

Como parte das medidas para prevenir a distribuição destes conteúdos, a X aplicou uma medida inesperada, tendo bloqueado todas as pesquisas relacionadas com a cantora da sua plataforma.

Desde o fim de semana que os utilizadores da X, antigo Twitter, não conseguem realizar pesquisas do nome de Taylor Switft, sendo que a plataforma não apresenta resultados para o mesmo.

De acordo com o portal WSJ, esta medida será temporária, de forma a que a X possa evitar a partilha dos conteúdos abusivos na sua plataforma. No entanto, não foram deixados detalhes de quando o bloqueio da pesquisa será levantado.

Ao mesmo tempo, enquanto as imagens deepfake eram partilhadas na X, os seguidores da cantora começaram também a usar a X para partilhar imagens reais da mesma, de forma a tentar que estas fossem mais visíveis do que as imagens deepfake.

De acordo com o portal 404Media, as imagens deepfake criadas da cantora teriam sido desenvolvidas usando a ferramenta Microsoft Designer, e as suas capacidades de IA. A Microsoft confirmou que se encontra a investigar a situação, mas que até ao momento não encontrou falhas na sua plataforma que permitam a criação de imagens explicitas no formato em que se encontravam a ser partilhadas.