OpenAI pretende lançar ferramenta para identificar texto criado no ChatGPT

A OpenAI revelou que pretende lançar uma nova ferramenta, que pode ajudar a identificar conteúdos que tenham sido criados via o ChatGPT.

A nova ferramenta que a OpenAI se encontra a trabalhar terá a capacidade de identificar conteúdos de texto que tenham sido criados usando o ChatGPT. O seu foco encontra-se para ambientes escolares, onde os professores poderão rapidamente verificar se um determinado trabalho ou conteúdo foi criado usando a IA da empresa.

A entidade deve analisar certos padrões de texto, que são considerados assinaturas criadas pelo ChatGPT sobre os conteúdos, e que já provaram ser altamente eficientes para identificar este género de textos.

Embora a ferramenta esteja em desenvolvimento, a empresa encontra-se ainda reticente em lançar a mesma, sobretudo devido à elevada possibilidade de falsos positivos. Esta ferramenta pode apresentar um elevado valor de falsos positivos para conteúdos que não sejam em inglês.

A OpenAI já tinha lançado anteriormente uma ferramenta para identificar conteúdos criados pelo ChatGPT, mas encerrou a mesma em Julho de 2023 por baixos valores de veracidade.