Carta aberta pretende suspender temporariamente avanços em modelos de IA avançados

Uma carta aberta recentemente assinada para 1100 pessoas, e destinada a todos os laboratórios e empresas de desenvolvimento de tecnologia de IA em larga escala, pede que as mesmas coloquem em pausa todos os treinos de modelos de linguagem para a tecnologia que sejam mais avançados do que os existentes para o GPT-4.

Esta lista pretende que os trabalhos sejam colocados em suspenso durante seis meses, e encontra-se assinada por nomes de relevo no mercado das tecnologias, como é o caso de Steve Wozniak, Evan Sharp, Elon Musk, entre outros.

A carta aberta afirma que, com a evolução desta tecnologia, existe o risco de a mesma causar problemas graves para a sociedade, que devem ser endereçados e corrigidos antes que o desenvolvimento possa avançar.

O documento indica ainda que, nos últimos meses, tem vindo a verificar-se a uma forte evolução no campo das tecnologias de IA, e isso deve-se em parte ao desenvolvimento de novas linguagens neste campo – e à ainda falta de controlo e moderação que existe no meio.

A carta aponta ainda que as autoridades governamentais devem começar a realizar investigações e implementarem as suas medidas de controlo para garantir que a tecnologia pode ser usada de forma segura.

É ainda referido que a medida não seria para forçar as empresas a desenvolverem estas tecnologias para suspenderem todas as atividades relacionadas com IA, mas sim aquelas que possam levar a avanços consideráveis e que tenham resultados imprevisíveis para a humanidade.

Este período de tempo em “pausa” poderia ser usado para a criação de sistemas de segurança e o estabelecimento de algumas regras para o futuro da tecnologia.

Não existe como negar que a tecnologia de IA tem vindo a evoluir consideravelmente nos últimos meses, de forma que os avanços começam também a preocupar alguns sobre a forma como podem ser implementados e quais os seus impactos para a sociedade em geral.

Como acontece de forma regular, as leis para este género de tecnologias possuem uma implementação lenta, que não acompanha diretamente o evoluir da mesma no mercado real.