Microsoft revela novo modelo LLM Orca 2

A Microsoft e a OpenAI trabalham juntas para desenvolverem largos modelos de IA, que são usados em serviços como o Copilot. Estes permitem aos sistemas realizar complexas tarefas para responder aos utilizadores de uma forma natural.

No entanto, a empresa continua a trabalhar em outros modelos LLM, e a Microsoft Research confirmou esta semana a chegada do Orca 2, a segunda geração do seu modelo LLM.

O Orca 2 foi especificamente criado para ser um LLM mais pequeno que o habitual, focando-se em tarefas mais específicas, invés de tentar responder “a tudo” como acontece nos grandes modelos.

O Orca 2 encontra-se disponível em duas versões, com 7 e 13 mil milhões de parâmetros, tendo sido construído em parte pelo Llama 2. A ideia passa por criar um LLM mais pequeno, que seja focado em tarefas mais específicas, mas que as realize consideravelmente mais rápida e eficiente.

Segundo a investigação da Microsoft, os modelos do Orca 2 permitem realizar algumas tarefas específicas cerca de 5 a 10 vezes mais rapidamente que os modelos LLM mais largos.

A Microsoft admite que o Orca 2 possui as suas limitações, mas que os testes claramente demonstram o seu potencial para o futuro, sobretudo em áreas mais especificas onde modelos como os da OpenAI não se enquadram diretamente.