Categoria: tecnologia

A OpenAI é uma das empresas mais avançadas no ramo da IA, e recentemente a entidade tem vindo a realizar algumas melhorias nos seus modelos para os tornar mais razoáveis e seguros. Um dos investimentos que a entidade pode ter realizado foi para desenvolver um sistema de “moral” para a IA.

Segundo os documentos financeiros da OpenAI, esta terá financiado um projeto na Duke University, onde os investigadores ficariam responsáveis por desenvolver um sistema capaz de criar uma moral para a IA. A entidade veio depois a confirmar que este investimento faz parte de um prémio para professores da universidade, que ficaram a cargo de um projeto – que terá a duração de três anos – para criar um sistema de moralidade para os modelos de IA da OpenAI.

De momento ainda pouco se conhece sobre este projeto, para além de que o investimento encontra-se previsto de terminar em 2025. Os investigadores e professores na frente do mesmo também se encontram proibidos de falar diretamente sobre o mesmo – em parte devido aos seus compromissos para com a OpenAI.

A ideia do projeto será criar um sistema que permita à IA ser capaz de prever julgamentos morais dos Humanos, e que tenha a capacidade de replicar tais ações no ambiente virtual. Entre alguns dos exemplos encontra-se julgamentos nos campos da medicina, lei e negócios.

Este formato de projetos não é inteiramente recente. No passado, vários projetos tentaram dar uma “razão” para os modelos automáticos de IA, de forma a criarem uma mente virtual mais aberta a possíveis julgamentos, com base em determinadas condições. Porém, praticamente todos os projetos falharam tendo em conta que o julgamento poderia ser facilmente contornado ou viciado.

Como tal, ainda se desconhece se este investimento da OpenAI terá algum resultado final para os modelos de IA que são usados no dia a dia, embora seja certamente algo que a entidade terá de ter em conta para o desenvolvimento futuro da tecnologia.

A OpenAI encontra-se a trabalhar em novas estratégias, focadas em otimizar a forma como as melhorias da Inteligência Artificial são lançadas, e mais concretamente, em otimizar a forma como estas tecnologias estão a receber menos novidades nos últimos tempos.

A ideia da OpenAI será criar um mecanismo para ajudar as empresas a desenvolverem as tecnologias, evitando ficarem “lentas” neste processo – uma tendência que começa a verificar-se agora que existem grandes avanços da fase “inicial” da IA.

A OpenAI encontra-se atualmente a desenvolver um novo modelo de IA, conhecido apenas como “Orion”, mas os testes iniciais apontam que, embora tenha um desempenho superior face aos modelos que a empresa atualmente fornece, o salto sentido face ao GTP-3 e GPT-4 ainda é bastante reduzido.

Ou seja, embora o Orion seja um modelo mais avançado, o desenvolvimento da tecnologia claramente tem vindo a abrandar nos últimos modelos, e este mais recente parece confirmar essa tendência – que não é apenas sentida na OpenAI.

A pensar nisso, a entidade terá formado uma equipa interna, que terá como única responsabilidade analisar meios de melhorar o desenvolvimento da tecnologia de IA, e como esta pode avançar a um ritmo aceitável – sem possíveis atrasos ou “paragens”.

Esta equipa ainda se encontra a dar os primeiros passos para uma possível solução, portanto ainda nada concreto foi revelado pela OpenAI, e as informações conhecidas são bastante escassas.

As tecnologias de IA têm vindo a melhorar consideravelmente, nos últimos tempos, trazendo consigo novas formas de utilizar a tecnologia. Porém, ainda existem algumas falhas que devem ser tidas em conta, e uma delas passa pelos problemas de alucinação, que existe em praticamente todos os modelos de IA atuais.

A OpenAI é uma das empresas que tem vindo a trabalhar para reduzir os efeitos das alucinações nos seus modelos, e a nova ferramenta “Whisper” da empresa não era uma onde se esperava tal situação. Porém, de acordo com vários investigadores, esta ferramenta ainda apresenta problemas.

O OpenAI Whisper é um sistema de reconhecimento automático de fala (ASR – Automatic Speech Recognition) desenvolvido pela OpenAI. É um modelo de inteligência artificial projetado para transcrever áudio em texto de forma precisa e eficiente, suportando múltiplos idiomas.

Tendo em conta que se trata de um sistema de transcrição, era de esperar que a alucinação da IA não fosse presente na mesma. Porém, os investigadores revelaram que esta falha ainda se encontra também neste sistema.

O estudo realizado indica que o Whisper ainda possui tendência para alucinar, e basicamente, apresentar informação inventada sobre os conteúdos transcritos. Isto pode ser um problema, se tivermos em conta que a tecnologia foi desenvolvida para transcrever apenas o que é dito em texto, e portanto, deveria basear-se apenas na fonte original do conteúdo.

A Universidade do Michigan, onde foi realizado o estudo, indica que oito em cada dez conteúdos retirados do Whisper contam com alucinações em algum formato. Em resposta a este estudo, a OpenAI afirma apenas que se encontra a melhorar de forma constante os seus modelos, para garantir que os mesmos representam uma boa qualidade final e que se reduz ao máximo as alucinações, porém, a entidade também sublinha que não se deve usar o Whisper para tarefas críticas, tendo em conta o potencial de falha que existe neste formato de sistemas.

A empresa agradeceu ainda aos criadores do estudo por terem fornecido detalhes do mesmo com a entidade, o que poderá ajudar a melhorar o modelo para o futuro.