Opinião: 2024 e IA – rumo à regulação de um futuro inevitável

Por Beatriz Dias (*)

O ano, que agora termina, revelou-se extraordinário no que diz respeito aos avanços da inteligência artificial (IA). Um ano repleto de novidades tecnológicas e debates éticos. Um ano que se despede com um princípio de acordo (político) pioneiro, e que diz olá a 2024 com uma garantia: a IA vai estar no topo da agenda. Mas voltemos a esse acordo, o qual tem sido intitulado como a “primeira lei de inteligência artificial do mundo”.

Em primeiro lugar, é importante clarificar que o que está em causa, neste momento, é um acordo de natureza política, entre Parlamento, o Conselho e a Comissão da União Europeia. No entanto, o texto final do Regulamento para a Inteligência Artificial ainda não é conhecido, nem foi, ainda, oficialmente aprovado. Não obstante, torna-se desde já claro que este passo vem reforçar a posição da União na regulação da tecnologia, consubstanciando assim a sua soberania tecnológica.

Num tempo em que a IA é já utilizada por milhões de pessoas, através das mais variadas aplicações, nas suas formas mais simples. Tanto os riscos, como as oportunidades subjacentes são prementes, e carecem de uma abordagem completa e multifacetada para assegurar um desenvolvimento de forma sustentável, segura e justa.

Assim, arriscamo-nos podemos antecipar que o Regulamento procura assegurar um equilíbrio entre por um lado, a promoção da inovação, e, por outro, a salvaguarda dos valores e direitos fundamentais. Assumindo como prioridade a garantia de que os sistemas de IA utilizados na UE são seguros, transparentes, rastreáveis, não discriminatórios e respeitadores do ambiente.  Sempre sujeitos a supervisão humana, ao invés de meramente automatizados por modo a evitar eventuais resultados que possam ser prejudiciais.

Nesta linha, foram propostas, pela Comissão, alterações significativas face à versão inicialmente apresentada pelo Parlamento, tendo em vista a superação do cariz manifestamente princípio lógico e vago da versão inicial. Existem, agora, normas tão fundamentais, face ao contexto atual, como as que proíbem uso da IA para a manipulação subliminar de indivíduos, a exploração das vulnerabilidades ou a classificação social de cidadãos a partir da sua observação ao longo do tempo. Sendo certo que, também a mudança na perceção política destes problemas é reflexo do desafio que a IA representa para os nossos valores e conceitos mais fundamentais.

Todavia, pese embora a bondade das medidas e a atratividade de algumas propostas, existem alguns pontos que merecem preocupação. Em especial, no que concerne à utilização de sistemas de IA para identificação biométrica remota nos espaços públicos, a qual não é, agora, obstaculizada, mas sujeita a várias exceções para a identificação de vítimas e suspeitos, e para fins de prevenção de ataques terroristas. Ora, a inclusão destas medidas consubstancia uma alteração de princípio do modo de combate ao crime na UE, cuja aplicação deve ser objeto de uma ponderação de valores, a cada momento. Caso contrário, poder-se-á abrir um caminho sem retorno para a vigilância de massas ou de possíveis utilizações discriminatórias

Adicionalmente, não podemos deixar de sublinhar que a mera proibição parcial do policiamento preditivo e dos sistemas de reconhecimento de emoções em locais de trabalho e ambientes educacionais, no longo prazo, poderão ser insuficientes face à perigosidade que estes sistemas poderão acarretar, sobretudo, em contextos de especial vulnerabilidade como os referidos.

Por fim, atenta a missão de reforço da posição da UE no mercado e desenvolvimento da IA, seria expectável que o acordo fosse acompanhado por um anúncio de financiamento significativo para promover a sua independência estratégica. E, afirmando assim, também em termos práticos a soberania tecnológica europeia, contudo, não foi este o caso

Concluindo: não podemos deixar de aplaudir a solução, tratando-se da legislação mais completa e inovadora em matéria de inteligência artificial, até agora aprovada, e que antevê para a Europa, neste final / início de ano, um importante passo rumo à regulação de um futuro inevitável.

(*) Associada de TMC da CMS Portugal