OpenAI lança ferramenta para identificar conteúdos criados pelo ChatGPT

O ChatGPT tem vindo a surgir em destaque nos últimos tempos pela internet, sobretudo pela inovação que veio trazer. No entanto, a plataforma também veio com os seus pontos negativos, e um deles encontra-se no facto que é consideravelmente difícil identificar quando um conteúdo foi criado por IA.

A pensar nisso, a OpenAI revelou agora uma nova ferramenta, desenhada para ajudar a identificar textos que tenham sido criados de forma “automática”. Esta ferramenta foca-se sobretudo para as áreas de ensino, ajudando professores a identificarem temas que foram criados usando a ferramenta do ChatGPT.

A OpenAI alerta que, apesar de a ferramenta ajudar a identificar os conteúdos criados de forma automática, ao mesmo tempo não é perfeita. A mesma tenta analisar a forma como o texto se encontra escrito, de forma a verificar se existem padrões que sejam consistentes com a base de dados existente para o ChatGPT.

A ferramenta classifica os conteúdos fornecidos como sendo possivelmente criados usando a ferramenta do ChatGPT ou não. De notar que a ferramenta não indica se o conteúdo foi criado ou não por esta ferramenta, apenas um grau de possibilidade para tal.

A empresa indica ainda que a ferramenta funciona melhor em pequenos excertos de texto, com menos de 1000 letras e em Inglês. Apesar de outros idiomas serem suportados, a capacidade de identificar os conteúdos criados por IA é consideravelmente mais reduzido nos mesmos.

É importante relembrar que o ChatGPT tem vindo a ser alvo de algumas críticas, sobretudo por parte da comunidade educacional, tendo em conta o potencial da ferramenta em ser usada para criar conteúdos bastante apelativos de forma relativamente simples.

Existe ainda o receio que a tecnologia possa ser usada para criar uma nova forma de campanhas de desinformação ou até mesmo de malware – se tivermos em conta que existem já relatos de hacker que estão a usar a ferramenta para desenvolverem novo malware.