OpenAI acusada de violar leis da privacidade com ChatGPT

A OpenAI encontra-se a ser alvo de um novo processo nos tribunais, desta vez por alegadas falha de privacidade com a sua plataforma do ChatGPT.

O grupo NOYB, sediado na Áustria, confirmou que vai avançar com um processo contra os criadores do ChatGPT, por alegadamente a plataforma fornecer falsas informações a questões que são colocadas no mesmo sobre um determinado individuo – que não foi citado nos documentos do tribunal.

De acordo com o grupo, o sistema de IA da OpenAI encontra-se repetidamente a fornecer falsas informações sobre uma pessoa, sem que exista forma de corrigir essa informação. O grupo considera que tal pode ser considerado uma violação das normas europeias de proteção de dados.

Num dos exemplos, o ChatGPT terá inventado as datas de nascimento invés de responder simplesmente que não sabia a mesma. Muitos chatbots de IA preferem inventar informação invés de indicar que não sabem a resposta ao pedido – algo que é conhecido como “alucinação”. Embora isso possa passar despercebido em alguns casos, quando envolve informação factual é mais complicado de enganar.

A acusação aponta ainda o facto da OpenAI ter indicado que não era possível corrigir ou eliminar a informação sobre o que o ChatGPT estaria a responder, apontando para a impossibilidade técnica de tal medida.

De notar que os termos do ChatGPT indicam que os utilizadores podem reportar quando a plataforma fornece informações incorretas, mas também indica que nem sempre é possível realizar a correção desses dados.

O grupo afirma que isto pode encontrar-se em violação das leis europeias de proteção de dados, tendo em conta que a mesma indica que os utilizadores possuem a capacidade de requerer a correção de informações dos seus dados pessoais, quando tal seja necessário.

Tendo em conta a resposta da OpenAI, sobre a impossibilidade de alterar essa informação e o que é fornecido de resposta aos utilizadores, o grupo acredita que tal não se encontra dentro dos termos de proteção de dados da União Europeia.

Ao mesmo tempo, esta acusação também levanta algumas questões sobre a origem de dados usados pela OpenAI para o treino dos seus modelos de IA. O grupo considera que a empresa não é transparente sobre a forma como recolhe e processa os dados para uso com o ChatGPT, o que leva a possíveis violações de privacidade com a plataforma e a forma como esta usa a informação para treino dos modelos de IA.

É importante ter em conta que a OpenAI encontra-se a ser alvo de várias acusações de violação de direitos de autor e de privacidade, e vários países, sendo que este é apenas mais um caso dos vários envolvendo a empresa.