OpenAI termina equipa responsável por uso seguro da IA

No final de 2023, a OpenAI tinha criado uma equipa dedicada internamente para controlar o futuro das tecnologias de IA e dos sistemas da mesma. A ideia seria ter uma equipa dedicada para garantir que a IA era usada de forma responsável, e que não eram criados sistemas que poderiam vir a afetar negativamente a humanidade.

Agora, menos de um ano depois de ter sido criada, a equipa terá sido desmantelada. De acordo com o portal Bloomberg, a OpenAI confirmou que a sua equipa, conhecida como “Superalignment”, foi descontinuada. Os membros desta equipa teriam sido distribuídos pelas diversas secções da empresa, de forma a garantir a continuidade dos esforços para a segurança nas tecnologias de IA.

No entanto, embora a mensagem da OpenAI seja otimista, a realidade pode ser algo diferente. Jan Leike, um dos líderes desta equipa, e que recentemente saiu da OpenAI, afirma que a mesma foi desmembrada depois de tensões internas entre a mesma e a administração da empresa.

Basicamente, o mesmo indica que existiam fortes tensões entre as equipas de segurança e uso responsável da IA, com as divisões mais elevadas da OpenAI. Leike afirma que a equipa tinha vindo a travar uma batalha para obter recursos para desenvolver as suas atividades, enquanto a empresa encontra-se a dar mais prioridade no desenvolvimento de novas tecnologias e produtos baseados em IA do que na sua segurança.

Estas declarações surgem também algumas horas depois de Sutskevar, cientista chefe da OpenAI, ter confirmado que iria sair da empresa. Sutskevar foi também um dos cofundadores originais da empresa, e teve um forte impacto no desenvolvimento de algumas das tecnologias que se encontram hoje em uso.

A saída ocorre também menos de seis meses depois do escândalo da empresa, com a demissão de Sam Altman, e onde Sutskevar foi um dos que aprovou a sua saída. Quando Altman voltou para a OpenAI, Sutskevar afirmava estar arrependido das suas ações.

Quando a equipa de segurança da OpenAI foi criada, a empresa afirmava que iria depositar 20% da sua capacidade de processamento para esta nova equipa, com objetivo de criar mecanismos de uso seguro da IA.

A OpenAI tem vindo também a enfrentar uma onda de saídas de peso da empresa nos últimos tempos, com vários diretos e nomes de relevo na mesma a abandonarem os seus cargos.