O Parlamento Europeu (PE) adotou esta manhã a sua posição de negociação sobre o Regulamento Inteligência Artificial (IA); as negociações com o Conselho sobre a forma final do diploma começam ainda esta quarta-feira à noite.
Esta posição foi aprovada com 499 votos a favor, 28 contra e 93 abstenções.
As novas regras visam assegurar que a IA desenvolvida e utilizada na Europa respeita os direitos e valores europeus, incluindo a supervisão humana, a segurança, a privacidade, a transparência, a não discriminação e o bem-estar social e ambiental.
Várias práticas de IA serão proibidas, sendo que o PE incluiu mais situações proibidas na listagem inicial.
O PE leva para a negociação final uma posição que prevê a proibição total da IA para efeitos de vigilância biométrica, reconhecimento de emoções e policiamento preditivo, à semelhança do defendido pelo Comité Europeu para a Proteção de Dados (CEPD).
Prevê também que os sistemas de IA generativa, como o ChatGPT, devem explicitar que os conteúdos foram gerados por inteligência artificial.
Os sistemas de IA utilizados para influenciar os eleitores nas eleições são considerados de alto risco.
Práticas de IA proibidas
Com base numa abordagem assente no risco, as novas regras estabelecem obrigações para os fornecedores e para quem usa os sistemas de IA, em função do nível de risco que se coloque.
Os sistemas de IA com um nível de risco inaceitável para a segurança das pessoas serão proibidos, nomeadamente os usados para classificação das pessoas, com base no seu comportamento social ou nas suas características pessoais.
Os eurodeputados alargaram a lista de modo a incluir proibições de utilizações intrusivas e discriminatórias da IA, tais como:
- sistemas de identificação biométrica à distância «em tempo real» e «em diferido» em espaços públicos;
- sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);
- sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);
- sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino; e
- remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).
IA considerada de risco elevado
A classificação das aplicações de risco elevado passará a incluir sistemas de IA que prejudicam significativamente a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente.
Foram adicionados à lista de risco elevado:
- os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições; e
- os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de utilizadores).
Obrigações para a IA de uso geral
Os fornecedores de modelos de base (um desenvolvimento novo e em rápida evolução no domínio da IA) terão de avaliar e atenuar eventuais riscos para a saúde, ambiente, segurança, direitos fundamentais, democracia e Estado de direito.
E terão de registar os seus modelos na base de dados da UE antes da sua introdução no mercado da UE.
Os sistemas de IA generativa que têm por base tais modelos, como o ChatGPT, terão de cumprir os requisitos de transparência, que incluem revelar que os conteúdos foram gerados por IA.
Isso ajudará a distinguir as técnicas de manipulação de imagens (deepfake) das imagens reais e assegurar salvaguardas contra a produção de conteúdos ilegais.
Terão ainda de ser disponibilizados ao público resumos pormenorizados dos dados protegidos por direitos de autor utilizados para a sua aprendizagem.
Apoio à inovação
Para impulsionar a inovação no domínio da inteligência artificial e apoiar as PME, o PE acrescentou isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta.
O novo regulamento promove os chamados ambientes de testagem de regulamentação, ou ambientes reais, criados pelas autoridades públicas para testar a inteligência artificial antes da sua utilização.
Proteção dos direitos dos cidadãos
A posição do PE inclui vários aspetos para reforçar o direito de queixa por parte dos cidadão, relativamente a sistemas de IA, bem como explicações que devem ter sobre decisões baseadas em sistemas de IA de risco elevado que tenham um impacto significativo nos seus direitos fundamentais.
O papel do Serviço Europeu para a Inteligência Artificial é reformulado e fica incumbido de acompanhar a aplicação do conjunto de regras em matéria de inteligência artificial.
Referências
Proposta de alteração ao Relatório sobre o Regulamento da Inteligência Artificial (PE) aprovada a 14.06.2023
Proposta de alteração ao Relatório sobre o Regulamento da Inteligência Artificial, 16.05.2023
Proposta de regulamento COM/2021/206 final, 21.04.2021
Orientações 05/2022, CEPD, de 26.04.2023