Stickers criados por IA da Meta podem conter imagens ofensivas

Durante a semana passada, a Meta confirmou que iria começar a disponibilizar aos utilizadores uma nova forma de criarem stickers, usando IA para tal. Esta nova funcionalidade viria a ficar disponível para as diversas plataformas da empresa, nomeadamente o Messenger.

Os utilizadores podem usar a mesma para referir o que pretendem que a IA crie em sticker, que podem depois ser enviados diretamente nas conversas. No entanto, parece que a empresa não colocou muitos filtros no que pode ser criado, levando a que rapidamente os utilizadores tenham descoberto formas de explorar o sistema.

De acordo com os relatos de utilizadores nas redes sociais, a Meta não parece ter aplicado filtros sobre o que pode ser criado com este sistema de stickers, levando a que os utilizadores possam criar imagens de praticamente tudo o que se pretenda. Num dos exemplos, os utilizadores criaram imagens do Rato Mickey a segurar armas ou em posições sugestivas. Existem ainda exemplos de personalidades conhecidas que foram criadas em diferentes cenários.

Existe quem tenha ainda usado o sistema para criar stickers relacionados com eventos da humanidade, como os ataques de 11 de Setembro ou imagens de políticos e celebridades em situações caricatas.

A Meta aparenta ter aplicado alguns filtros nos conteúdos que podem ser criados, mas estes podem ser rapidamente contornados com base naquilo que os utilizadores escrevam – e sem grande dificuldade. A Meta também parece ter confirmado o problema, sendo que um porta-voz da empresa confirma que esta se encontra a trabalhar para melhorar os filtros do seu sistema de IA para stickers.

No entanto, pelas redes sociais, os consumidores apontam que a Meta terá lançado esta nova funcionalidade demasiado cedo, sem aplicar os devidos testes ou limitações, apenas para ter a funcionalidade disponível o “mais rapidamente possível”.