EUA e Reino Unido juntam-se para testar e avaliar segurança dos modelos de IA

Os Estados Unidos e o Reino Unido vão trabalhar em conjunto para testar a segurança dos modelos de inteligência artificial generativa que têm chegado ao mercado e dado origem a todo um novo leque de soluções e serviços.

Os governos dos dois países assinaram um memorando de entendimento que estabelece as bases de colaboração nesta matéria e prevê a partilha de conhecimentos técnicos e outras informações, de forma a que seja possível criar uma base comum para avaliação da segurança das tecnologias de empresas como a OpenAI  (GPT) ou a Google (Gemini).

O Reino Unido tem já a funcionar um Instituto para a Segurança da IA e os Estados Unidos anunciaram a criação de um organismo idêntico. As duas estruturas vão ficar encarregues da colaboração e do desenvolvimento de um conjunto de ferramentas de teste e avaliação que possam ser usadas pelos dois países com os modelos de IA mais avançados, avança o Financial Times.

Michelle Donelan, ministro britânico da ciência defendeu ao jornal que é preciso agir rapidamente nesta área, até porque é esperada a chegada de uma nova geração de modelos de IA durante o próximo ano, ainda mais avançados que os atuais, sem que se saiba do que realmente são capazes.

“A inteligência artificial é a tecnologia que define a nossa geração. Esta parceria vai acelerar o trabalho dos nossos dois institutos em todo o espectro de riscos que daí decorre, para a nossa segurança nacional mas também para a sociedade em geral”, defende também Gina Raimondo, secretária americana do comércio.

A regulação da IA é um tema em todo o mundo. A União Europeia está a implementar o AI Act, o primeiro quadro legal para o efeito. Os Estados Unidos têm dado alguns passos no mesmo sentido. Em março, por exemplo, a Casa Branca aprovou uma ordem executiva que pretende garantir que as agências federais só usam ferramentas de IA que não ponham em risco os direitos e segurança dos americanos.

Para já, este novo acordo de colaboração junta apenas Reino Unido e Estados Unidos, numa colaboração inédita para esta área, mas o objetivo será juntar outras geografias à colaboração, adianta ainda a notícia.