Whisper da OpenAI ainda possui problemas de alucinação

As tecnologias de IA têm vindo a melhorar consideravelmente, nos últimos tempos, trazendo consigo novas formas de utilizar a tecnologia. Porém, ainda existem algumas falhas que devem ser tidas em conta, e uma delas passa pelos problemas de alucinação, que existe em praticamente todos os modelos de IA atuais.

A OpenAI é uma das empresas que tem vindo a trabalhar para reduzir os efeitos das alucinações nos seus modelos, e a nova ferramenta “Whisper” da empresa não era uma onde se esperava tal situação. Porém, de acordo com vários investigadores, esta ferramenta ainda apresenta problemas.

O OpenAI Whisper é um sistema de reconhecimento automático de fala (ASR – Automatic Speech Recognition) desenvolvido pela OpenAI. É um modelo de inteligência artificial projetado para transcrever áudio em texto de forma precisa e eficiente, suportando múltiplos idiomas.

Tendo em conta que se trata de um sistema de transcrição, era de esperar que a alucinação da IA não fosse presente na mesma. Porém, os investigadores revelaram que esta falha ainda se encontra também neste sistema.

O estudo realizado indica que o Whisper ainda possui tendência para alucinar, e basicamente, apresentar informação inventada sobre os conteúdos transcritos. Isto pode ser um problema, se tivermos em conta que a tecnologia foi desenvolvida para transcrever apenas o que é dito em texto, e portanto, deveria basear-se apenas na fonte original do conteúdo.

A Universidade do Michigan, onde foi realizado o estudo, indica que oito em cada dez conteúdos retirados do Whisper contam com alucinações em algum formato. Em resposta a este estudo, a OpenAI afirma apenas que se encontra a melhorar de forma constante os seus modelos, para garantir que os mesmos representam uma boa qualidade final e que se reduz ao máximo as alucinações, porém, a entidade também sublinha que não se deve usar o Whisper para tarefas críticas, tendo em conta o potencial de falha que existe neste formato de sistemas.

A empresa agradeceu ainda aos criadores do estudo por terem fornecido detalhes do mesmo com a entidade, o que poderá ajudar a melhorar o modelo para o futuro.