Existe uma versão aberta do ChatGPT, para quem a consiga treinar de todo…

Depois de todo o sucesso que se tem verificado com o ChatGPT, agora existe uma nova solução aberta do mesmo… para quem o consiga correr de todo.

Durante esta semana, Philip Wang, o programador que no passado já tinha feito engenharia reversa ao sistema de IA da Meta, disponibilizou o novo PaLM + RLHF, um gerador de texto via IA que funciona em formato similar ao ChatGPT da OpenAI – com a particularidade de ser totalmente aberto e gratuito.

Este sistema combina o PaLM da Google com uma técnica conhecida como Reinforcement Learning with Human Feedback — RLHF – para criar um sistema que é capaz de funcionar num formato similar ao do ChatGPT, incluindo a capacidade de escrever emails e até de criar pequenos conteúdos de código através da aprendizagem automática da IA.

No entanto, ao contrário da solução da OpenAI, o PaLM + RLHF não possui nenhum modelo de treino. Como tal, descarregar o código do mesmo não vai oferecer a mesma experiência final do que se encontras no ChatGPT, a menos que alguém consiga obter modelos para a treinar com elevada precisão.

Tal como muitos outros sistemas de IA, o PaLM + RLHF funciona através da analise de modelos de entrada, que podem ser de várias fontes, e que são usados para treinar a IA a desempenhar as suas tarefas. E é exatamente aqui que se encontra o problema para quem o pretenda usar, pois vai ser necessário “alimentar” o mesmo com bastante informação para que este seja capaz de fornecer detalhes concretos que sejam sequer parecidos com o que se encontra no ChatGPT.

O problema encontra-se que a maioria dos utilizadores não possuem estes modelos disponíveis para recolha, e tão pouco o hardware necessário para que o mesmo possa ser executar corretamente. A tarefa de alimentar os modelos para o programa é bastante exigente a nível de recursos, e longe do que a maioria dos utilizadores possui de capacidade de processamento para tal tarefa.

Um estudo da AI21 Labs, realizado em 2020, estimou que treinar um modelo com “apenas” 1.5 mil milhões de parâmetros pode custar cerca de 1.6 milhões de dólares – e estes valores são relativamente pequenos se tivermos em conta toda a informação que necessita de ser processada para criar algo consistente.

Portanto, apesar de a solução ser interessante para analisar as possibilidades do sistema, ao mesmo tempo será algo que dificilmente vai criar algum género de competição com o que se encontra no ChatGPT da OpenAI.