A nova lei, que tinha já sido acordada através de negociações com os Estados-membros em dezembro de 2023, foi aprovada pelos eurodeputados com 523 votos a favor, 46 contra e 49 abstenções, informa o Parlamento Europeu em comunicado.
“Finalmente temos a primeira lei vinculativa do mundo sobre inteligência artificial para reduzir riscos, criar oportunidades, combater a discriminação e trazer mais transparência. Graças ao Parlamento Europeu, as práticas inaceitáveis, inteligência artificial serão proibidas na Europa e os direitos dos trabalhadores e dos cidadãos serão protegidos”, disse o co-relator da Comissão do Mercado Interno, o italiano Brando Benifei.
Por seu lado, o co-relator do Comité das Liberdades Civis, o romeno Dragos Tudorache, acrescentou: “A UE cumpriu. Ligámos o conceito de inteligência artificial aos valores fundamentais. No entanto, ainda há muito trabalho pela frente. A Lei da Inteligência Artificial é o ponto de partida para um novo modelo de governação construído em torno da tecnologia”.
As regras que agora serão colocadas em práticas estabelecem as devidas salvaguardas ao uso da inteligência artificial, impõem limites à utilização de sistemas de identificação biométrica pelas autoridades policiais, proíbem o chamado “social scoring” e o recurso à inteligência artificial para manipular ou explorar as vulnerabilidades dos utilizadores europeus. Além disso, consagra também o direito dos consumidores de apresentar reclamações e receber explicações sobre o uso da inteligência artificial. A lei estabelece assim as “obrigações da inteligência artificial” com base nos seus riscos potenciais e nível de impacto.
No que diz respeito à transparência, a inteligência artificial de uso geral deve estar em conformidade com a legislação de direitos de autor da UE, sendo que os sistemas “mais poderosos, que possam representar riscos sistémicos enfrentarão requisitos adicionais, incluindo a realização de avaliações de modelos, a avaliação e mitigação de riscos sistémicos e a elaboração de relatórios sobre incidentes”.
“Imagens artificiais ou manipuladas, vem como conteúdo de áudio ou vídeo (“deepfakes”), devem ser claramente rotulados como tal”, informa o Parlamento Europeu.
Com esta lei passam a ser proibidas determinadas aplicações de inteligência artificial que potencialmente ameaçam os direitos dos cidadãos, incluindo “sistemas de categorização biométrica, baseados em características sensíveis e recolha não direcionada de imagens faciais da internet ou imagens de circuitos fechados de televisão (CCTV) para criar bases de dados de reconhecimento facial”.
“O reconhecimento de emoções no local de trabalho e nas escolas, o “social scoring”, o policiamento preditivo (quando se baseia apenas no perfil de uma pessoa ou na avaliação das suas características) e a inteligência artificial que manipula o comportamento humano ou explora as vulnerabilidades das pessoas também serão proibidos”, refere o mesmo comunicado.
É ainda proibida a utilização de sistemas de identificação biométrica pelas autoridades policiais, “exceto em situações estritamente definidas”. Os recursos a estes sistemas “em tempo real” só pode ser autorizado se a utilização for “limitada no tempo, no âmbito geográfico e sujeita a autorização prévia judicial ou administrativa”, como, por exemplo em buscas de pessoas desaparecidas ou na prevenção de um ataque terrorista. Já o uso de identificação biométrica de forma remota ou “pós-facto” é considerado como um “uso de alto risco, exigindo autorização judicial e estando vinculado a um crime”.
O Parlamento Europeu refere ainda que estão previstas obrigações claras para outros sistemas de inteligência artificial de alto risco, tendo em conta potenciais danos significativos para a saúde, segurança, direitos fundamentais, ambiente, democracia e Estado de direito.
Na lista de “utilizações de inteligência artificial de alto risco” incluem-se infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (cuidados de saúde, serviços bancários), determinados sistemas de aplicação da lei, migração e gestão de fronteiras, justiça e processos democráticos (eleições).