AI Act: lei para regular inteligência artificial na UE com “luz verde” do Parlamento Europeu

Depois da aprovação de novas emendas, que traçam medidas mais “apertadas” requisitos adicionais para serviços como o ChatGPT, o Parlamento Europeu acaba de votar a proposta do AI Act, o quadro legal europeu para regular a utilização de inteligência artificial na União Europeia. A negociação do AI Act com os Estados-Membros da UE foi aprovada com 449 votos a favor, 28 contra e 93 abstenções.

Recorde-se que o AI Act estabelece obrigações, tanto para fornecedores como para utilizadores, tendo por base o nível de risco dos sistemas de IA. De acordo com a proposta, os sistemas de risco inaceitável são considerados uma ameaça e serão proibidos.

Como explica o Parlamento Europeu, entre estes sistemas de risco inaceitável estão aqueles que permitem uma manipulação cognitivo-comportamental de pessoas ou de grupos vulneráveis específicos, como crianças; sistemas de pontuação ou crédito social, à semelhança dos que existem em países como a China; além de sistemas de sistemas de identificação biométrica em tempo real e à distância.

Aqui incluem-se também sistemas preditivos de policiamento, que se baseiam em perfis, localização ou histórico de comportamentos criminosos; sistemas de reconhecimento de emoções por autoridades, no controlo de fronteiras, pelos locais de trabalho e instituições de ensino; assim como a recolha de imagens faciais da Internet ou de sistemas de videovigilância para criar bases de dados de reconhecimento facial.

Note-se, neste contexto, existem exceções: veja-se, por exemplo, os sistemas de identificação biométrica à distância “à posteriori”, onde a identificação só ocorre com um atraso significativo. O Parlamento indica que este tipo de sistema será permitido para levar crimes graves à Justiça, mas só após a aprovação de um tribunal.

[related-post id=”345082″ post_type=”post” /]Já os sistemas de alto risco são descritos como aqueles que afetam negativamente a segurança ou que impactam os direitos fundamentais. Aqui incluem-se os sistemas que são usados em produtos abrangidos por legislação europeia de segurança e aqueles que se enquadram em áreas específicas e que terão de ser registados numa base de dados da UE.

Em questão estão áreas como “identificação biométrica e categorização de pessoas singulares”; “gestão e funcionamento de infraestruturas críticas; educação e formação profissional”; ou “emprego, gestão dos trabalhadores e acesso ao trabalho por conta própria”.

Incluem-se também “acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos”; “aplicação da lei”; “gestão da migração, do asilo e do controlo das fronteiras”; e “assistência na interpretação jurídica e na aplicação da lei”.

Os sistemas de IA utilizados para influenciar eleitores e o resultado de eleições, assim como os sistemas de recomendações usados por redes sociais com mais de 45 milhões de utilizadores foram adicionados à lista de sistemas de alto risco.

Note-se que, de acordo com a proposta, os sistemas de IA que se enquadram nesta categoria terão de passar por avaliações antes de chegarem ao mercado e durante a totalidade do seu ciclo de vida.

Tendo em conta as recentes emendas feitas ao texto da proposta, o AI Act indica que sistemas de IA generativa, incluindo plataformas como o ChatGPT, têm de cumprir requisitos de transparência.

Nestes casos é exigido aos fornecedores destes sistemas que divulguem que os conteúdos foram gerados por IA; que concebam os modelos de modo a evitar conteúdos ilegais; e que publiquem relatórios sobre sobre os dados protegidos por direitos de autor que foram utilizados para treinar os modelos.

[related-post id=”347392″ post_type=”post” /]Por fim, os sistemas de IA com riscos limitados também devem cumprir requisitos mínimos de transparência, de modo a que os utilizadores possam tomar decisões informadas, avança o Parlamento Europeu.

Para apoiar a inovação na área da IA e apoiar as PME, foram adicionadas exceções a atividades de pesquisa e a componentes de IA disponibilizados sob licenças Open Source. O Parlamento Europeu detalha que o AI Act promove também a criação de “sandboxes” regulatórias estabelecidas por autoridades publicas para testar sistemas de IA antes da sua implementação.

Após a aprovação do Parlamento Europeu, seguem-se agora negociações com os Estados-Membros no Conselho da UE para decidir a versão final do AI Act, com o objetivo de se chegar a um acordo até ao final do ano, embora a Comissão Europeia admita que as novas regras só venham a entrar em vigor em 2025.

Nota de redação: A notícia foi atualizada com mais informação. (Última atualização: 12h27)