Instagram irá utilizar IA para detetar bullying

No ano passado, o Instagram revelou um novo filtro para comentários, onde a Inteligência Artificial era utilizada para detetar termos ofensivos ou frases que poderiam afetar os utilizadores. Agora a plataforma expande este sistema também para fotos e legendas das mesmas.

A rede social revelou que irá começar a utilizar a IA para detetar ativamente todos os conteúdos que sejam enviados para a plataforma com vista a serem utilizados em bullying, antes mesmo desses conteúdos ser revistos por um moderador. Esta também será implementada nos vídeos e conteúdos publicados em direto, onde os comentários serão analisados em tempo real para detetar qualquer termo ofensivo.

Ainda se desconhece se este sistema irá analisar apenas o texto publicado nos comentários e nas legendas de fotos, ou também outro texto que possa ser incluído diretamente nas imagens. Caso esta segunda opção seja viável, o sistema pode também vir a ser implementado nas funcionalidades de Stories diretamente.

Esta é a primeira medida implementada na plataforma sobre a chefia de Adam Mosseri, depois dos dois cofundadores da plataforma – Kevin Systrom e Mike Krieger – terem abandonado a mesma o mês passado. Esta saída terá sido derivada da constante pressão do Facebook para as decisões internas da rede social.