OpenAI acredita que IA pode ajudar a criar ferramentas de moderação

A moderação de conteúdos é uma das áreas onde a Inteligência Artificial pode vir a ser benéfica, melhorando consideravelmente a tarefa. E a OpenAI parece ser desta ideia, tendo agora confirmado que se encontra a desenvolver a sua própria plataforma de moderação com base no GPT-4.

A empresa confirmou que se encontra a usar o modelo de linguagem de IA para desenvolver um sistema de moderação que sejam escalável, consistente e personalizado para cada necessidade.

Segundo a empresa, o GPT-4 pode ajudar não apenas a realizar decisões de moderação, mas também a ajustar as políticas existentes nas plataformas, além de ajudar na implementação das mesmas em larga escala. A tecnologia pode reduzir a tarefa de criar políticas de moderação, que anteriormente demoravam meses a serem criadas, para uma questão de horas.

“Acreditamos que isso oferece uma visão mais positiva do futuro das plataformas digitais, onde a IA pode ajudar a moderar o tráfego online de acordo com a política específica da plataforma e aliviar a carga mental de um grande número de moderadores humanos”, indicam Lilian Weng, Vik Goel e Andrea Vallone no blog da OpenAI.

“Qualquer pessoa com acesso à API OpenAI pode implementar essa abordagem para criar seu próprio sistema de moderação assistido por IA.”

A OpenAI refere ainda que as suas ferramentas de moderação podem ajudar as empresas a realizar cerca de seis meses de trabalho de moderação de conteúdos em apenas algumas horas.

Ao mesmo tempo, estas ferramentas podem ajudar a melhorar as condições de trabalho para as equipas de moderação. Estas equipas muitas vezes necessitam de ver conteúdos potencialmente danosos para a saúde mental das pessoas envolvidas.

As tecnologias de IA podem ajudar a moderar estes conteúdos, sem expor os mesmos para as pessoas e sem os malefícios que tal gera. Esta medida pode largamente ajudar empresas a implementarem medidas mais claras e consistentes de moderação para os seus conteúdos.

A OpenAI afirma, no entanto, que a IA não é perfeita. E como tal, a moderação ainda deve passar por uma vertente humana, mas as ferramentas de moderação baseadas em IA podem ajudar consideravelmente neste processo, sobretudo nas tarefas mais rotineiras da prática.