Lei da Inteligência Artificial pronta para votação no Parlamento Europeu em junho

Está dado mais um passo para a aprovação daquele que será o primeiro quadro legal a nível mundial, para regular a inteligência artificial. Os Comités do Mercado Interno e da Cidadania do Parlamento Europeu aprovaram com larga maioria (84 votos a favor, 7 contra e 12 abstenções) o texto-base, e um conjunto de emendas, ao regulamento da Inteligência Artificial. O AI Act segue agora para a votação em plenário, no Parlamento, que deverá acontecer entre 12 e 15 de junho.

Como já se previa, entre as novidades do texto legal passam a constar diretrizes para serviços como o ChatGPT. Como explica a nota de imprensa divulgada pelo PE, “modelos de IA generativa, como o GPT, terão de cumprir requisitos de transparência adicionais”. Entre eles, “revelar que o conteúdo foi gerado por IA, conceber o seu modelo de forma a evitar que gere conteúdos ilegais e publicar relatórios sobre os dados protegidos por direitos de autor utilizados para treinar o modelo”.

O texto aprovado pelos eurodeputados clarifica e aperta as regras sobre o controlo de sistemas de IA com impacto negativo para a segurança ou privacidade. O leque de contextos de utilização de IA considerados intrusivos e discriminatórios foi revisto, incluindo alguns pontos e aprofundando outros, face àquela que já tinha sido a posição aprovada pelo Conselho no final do ano passado.

[related-post id=”325567″ post_type=”post” /]

A nova redação do AI Act, que será levada a votação em junho, prevê a proibição de sistemas de identificação biométrica à distância “em tempo real”, em espaços acessíveis ao público, assim como o recurso a sistemas de identificação biométrica à distância “a posteriori”. Neste ponto fica salvaguardada, como única exceção, a possibilidade de usar estes sistemas para fins de aplicação da lei, com autorização judicial expressa e só em situações que envolvam crimes graves.

Clarifica-se que o uso de sistemas que permitem a categorização biométrica não podem fazer uso de dados sensíveis (como género, raça, etnia, estatuto de cidadania, religião, ou orientação política) e que os sistemas de policiamento preditivo, baseados na definição de perfis, localização ou comportamento criminal anterior também não serão permitidos.

As emendas aprovadas clarificam ainda que não será permitido usar sistemas de IA que permitam a recolha indiscriminada de dados biométricos a partir de redes sociais, ou de imagens captadas por câmaras de videovigilância, para criar bases de dados de reconhecimento facial.

Na mesma lista de usos abusivos da IA são também incluídos os sistemas de reconhecimento de emoções, seja para aplicação da lei, gestão de fronteiras, uso em locais de trabalho ou instituições de ensino.

As emendas acrescentadas pelos eurodeputados alargam ainda as áreas com classificação de alto risco, para incluir as aplicações da IA que possam ter um impacto negativo na saúde, segurança, direitos fundamentais e ambiente. Na mesma classificação estarão os sistemas de IA destinados a influenciar eleitores em campanhas políticas e os sistemas de recomendação utilizados pelas grandes plataformas de internet, como as redes sociais, Esta disposição da lei só será aplicada às empresas visadas pela Lei dos Serviços Digitais, ou seja, àquelas que gerem mais de 45 milhões de utilizadores nessas plataformas.

Como forma de promover a inovação, explica-se que vão ser permitidas exceções a estas regras em contextos de investigação e para componentes de IA fornecidos ao abrigo de licenças de código aberto. A lei prevê a criação de “sandboxes” regulatórias para testar sistemas de IA, antes de serem implementados.

Depois da votação em plenário do texto que resulta das emendas acrescentadas na sequência das negociações no Parlamento Europeu, o draft do AI Act vai voltar às negociações com o Conselho para redação do texto final da lei.