OpenAI afirma ser capaz de identificar imagens criadas por IA… ou quase

A IA tem vindo a evoluir consideravelmente, ao ponto que é capaz de identificar com bastante sucesso o conteúdo até de imagens. E agora, a OpenAI acredita ter lançado uma ferramenta que pode ajudar a identificar quando essas imagens foram criadas por IA.

A empresa revelou recentemente uma nova ferramenta, que será capaz de identificar as imagens que foram criadas usando o modelo DALL-E 3 da empresa. A ferramenta usa vários sistemas para identificar se uma imagem foi criada de forma artificial, analisando detalhes e metadados das mesmas.

No entanto, embora a empresa garanta que a ferramenta foca-se para o DALL-E 3, esta ainda apresenta resultados mistos no final. A empresa afirma que a ferramenta é capaz de identificar corretamente imagens criadas pelo modelo DALL-E 3 em 98% dos casos.

No entanto, existem alguns pontos a ter em conta para tal identificação. Primeiro a imagem deve ter sido criada diretamente no DALL-E 3, o que deixa de lado uma grande parte dos restantes modelos de IA para criação de imagens existentes no mercado.

Além disso, as imagens também não podem ter sido modificadas de nenhuma forma, o que pode adulterar o resultado final da classificação. Isto aplica-se até mesmo em pequenas edições, como a compressão que é aplicada em várias plataformas online para imagens partilhadas.

A taxa de sucesso a identificar imagens criadas por IA quando estas foram drasticamente modificadas cai bastante, o que torna o uso da ferramenta algo desnecessário neste ponto. Isto será ainda mais importante de ter em conta que basta uma imagem ser editada para colocar algum texto ou integrar mudanças mais significativas para impedir o correto funcionamento da ferramenta.

No entanto, a OpenAI parece encontrar-se ciente das limitações desta ferramenta, e encontra-se também a pedir a toda a comunidade que ofereça as suas formas de melhorar a identificação de conteúdos.