OpenAI cria equipa dedicada para evitar que IA se descontrole

A OpenAI confirmou que se encontra a criar uma nova equipa de engenheiros, a qual será focada numa única tarefa: evitar que a Inteligência Artificial possa descontrolar-se.

A ideia da nova equipa de engenheiros da OpenAI passa por criar uma equipa capaz de criar métodos de treino, com o objetivo de evitar que as tecnologias de Inteligência Artificial possam vir a tornar-se autónomas e a descontrolarem-se – deixando de ser controladas pelo ser humano.

A superinteligência da IA é, segundo a OpenAI, uma das tecnologias mais avançadas criadas pelo ser humano nos últimos tempos, mas possui o potencial de também ser usada para abusos ou de deixar de ficar no controlo deste.

A OpenAI afirma que, atualmente, não existem propriamente meios de controlar uma IA superinteligente. Esta pode assumir modelos próprios que, eventualmente, podem descontrolar-se. Apesar de os sistemas atuais serem monitorizados por humanos, a IA pode evoluir ao ponto de contornar esse “bloqueio”.

Esta nova equipa é considerada pela OpenAI como extremamente importante para o futuro da tecnologia, e por isso mesmo a empresa encontra-se a dedicar 20% da sua capacidade de processamento atual para a mesma, e de forma a criar os métodos necessários para garantir os resultados.

A equipa terá os próximos quatro anos para criar os métodos que se pretende para controlar a IA e a sua inteligência. Esta será constituída por algumas das mentes mais reconhecidas da área da IA, e espera-se que venha a ser alargada com o tempo.