Sistemas de identificar conteúdos criados por IA pode trazer problemas a estudantes
Com cada vez mais ferramentas de IA disponíveis no mercado, estas são também cada vez mais usadas por diferentes setores, e o da educação é certamente um deles. Muitos alunos usam ferramentas de IA para obterem informações ou simplesmente criarem trabalhos diretamente da mesma.
A pensar nisso, existem também ferramentas e sistemas que são capazes de analisar os conteúdos e de identificar os que podem ter sido criados usando sistemas de IA – analisando certos padrões criados por estes sistemas. No entanto, estes sistemas ainda possuem falhas, e não são capazes de analisar com 100% de eficácia que um conteúdo foi ou não escrito por IA.
Como tal, ainda existem muitos conteúdos que, nestes sistemas, podem ser identificados como escritos por IA, mesmo que não o tenham sido. E isso pode agora ser um problema.
Com cada vez mais escolas a usarem estes sistemas para identificar o uso de IA em trabalhos e afins dos estudantes, os mesmos podem acabar por causar problemas graves, onde se identifica incorretamente um conteúdo como criado por IA.
De acordo com um estudo realizado pela Bloomberg, que analisou em alguns destes sistemas teses enviadas em grandes universidades dos EUA, muitos dos serviços identificaram 1 a 2% dos trabalhos como tendo sido escritos por IA – embora tenham sido comprovadamente criados de forma natural, visto que todos os documentos foram criados antes do ChatGPT ter sido lançado.
Embora o teste possa ser considerado relativamente pequeno e simples, demonstra a existência de um problema com os mecanismos de identificação de IA, que cada vez mais as escolas estão a adotar como uma forma de avaliar os trabalhos recebidos.
Ao mesmo tempo, demonstra ainda um potencial alvo de problemas no futuro. Embora os sistemas de identificação de conteúdos criados por IA tenham vindo a melhorar na sua eficácia, ao mesmo tempo a IA também tem vindo a melhorar consideravelmente, o que faz com que os conteúdos sejam também mais complicados de identificar.