Parlamento Europeu vota nas novas regras para a Inteligência Artificial

A Inteligência Artificial encontra-se cada vez mais presente no dia a dia dos utilizadores, para as mais variadas tarefas.

Com isto, aumentam também as necessidades de serem criadas regras e leis para evitar o uso abusivo da mesma. O Parlamento Europeu votou hoje na criação de um conjunto de regras, que visam promover a adoção de uma IA centrada no ser humano e fiável, protegendo os direitos dos cidadãos.

O Regulamento Inteligência Artificial (IA) teve a votação realizada hoje, com 499 votos a favor, 28 contra e 93 abstenções, sendo que esta medida antecipa agora as conversações com os diferentes estados-membros da União Europeia sobre a forma final da lei.

De acordo com o comunicado da Parlamento Europeu, as “regras assegurarão que a IA desenvolvida e utilizada na Europa respeita plenamente os direitos e valores da UE, incluindo a supervisão humana, a segurança, a privacidade, a transparência, a não discriminação e o bem-estar social e ambiental.”

Existem algumas regras que estabelecem o uso proibido da IA, tendo como base o risco que tais possam levar para os diferentes mercados. Entre alguns dos pontos encontram-se o uso de sistemas de IA para:

• sistemas de identificação biométrica à distância «em tempo real» e «em diferido» em espaços públicos;
• sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);
• sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);
• sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino; e
• remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).

Serão ainda considerados de risco elevado os usos de IA que tenham impactos significativos a nível da “saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente”.

Ao mesmo tempo, existem ainda regras relativamente aos fornecedores de modelos de IA, que devem “avaliar e atenuar eventuais riscos (para a saúde, ambiente, segurança. direitos fundamentais, democracia e Estado de direito) e registar os seus modelos na base de dados da União antes da sua introdução no mercado da UE.”

Além disso, “sistemas de IA generativa que têm por base tais modelos, como o ChatGPT, terão de cumprir os requisitos de transparência (revelando que os conteúdos foram gerados por IA, o que ajudará a distinguir as técnicas de manipulação de imagens – também conhecidas como deepfake – das imagens reais) e assegurar salvaguardas contra a produção de conteúdos ilegais”

No entanto, as novas regras não terão apenas um caráter de limitação, sendo que também se encontram a ser aplicadas medidas para “impulsionar a inovação no domínio da inteligência artificial e apoiar as PME”, nomeadamente com a “isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta”.