OpenAI considera permitir criação de conteúdos NSFW nas suas ferramentas
A OpenAI, empresa responsável pelo ChatGPT, pode encontrar-se a explorar novas formas do que os utilizadores podem criar usando as suas ferramentas, e uma delas pode encontrar-se em conteúdos para adultos.
Normalmente, a maioria das plataformas de IA aplica medidas para limitar a criação de conteúdos sensíveis, como conteúdos para adultos e pornografia. Isto previne que sejam criadas ferramentas que podem levar a conteúdos deepfake ou enganadores, bem como potencialmente abusivos.
No entanto, a OpenAI pode estar agora a explorar novas formas de rentabilizar as suas plataformas de IA, o que pode passar por permitir a criação deste formato de conteúdos. De acordo com o The Guardian, a empresa encontra-se a estudar a possibilidade de permitir a criação de conteúdos para adultos através das suas ferramentas, mas sublinha que serão ainda aplicadas medidas de segurança para esses conteúdos.
Por exemplo, estes não podem ser criados com formato deepfake, retirando a imagem de pessoas conhecidas ou celebridades, por exemplo. A ideia da OpenAI será permitir a criação responsável e segura de conteúdos, mesmo que sejam para adultos. Isto aplica-se a ferramentas como o DALL-E, o criador de imagens por IA da empresa.
A empresa confirma ainda que se encontra a explorar formas de permitir o uso das suas ferramentas para a criação de conteúdos not-safe-for-work (NSFW) de forma responsável e ética, considerando que a mesma deve ser vista como um avanço igualmente necessário para a tecnologia. Os modelos da empresa necessitam também de compreender estas áreas para se poderem adaptar a todas as eventualidades, e isso inclui permitir a criação de imagens e conteúdos deste formato para os utilizadores finais.
É importante notar que, atualmente, já existem ferramentas de IA que permitem a criação de imagens e vídeos de conteúdos NSFW, mas estes normalmente funcionam sobre meios “alternativas”, e não possuem as mesmas capacidades que as plataformas da OpenAI.