Primeiro-ministro britânico defende a necessidade de uma estratégia mundial para a segurança na inteligência artificial

“A minha visão e o nosso objetivo final é trabalhar no sentido de uma abordagem mais internacional da segurança, em que trabalhemos com os nossos parceiros para garantir que os sistemas de IA são seguros antes de serem lançados”, afirmou, num discurso em Londres.

Sunak anunciou a criação de Instituto de Segurança da IA do Reino Unido, reiterando o desejo de o país desempenhar um papel proeminente neste tema.

O chefe do Governo britânico garantiu que não vai precipitar-se na regulamentação sobre a IA, mas reconheceu que “mitigar o risco de extinção da IA deve ser uma prioridade internacional, em paralelo com outros riscos à escala social, como as pandemias e a guerra nuclear”.

Segundo Sunak, a regulamentação não deve ser deixada às empresas de tecnologia que a desenvolvem, pois “só os Estados nacionais têm o poder e a legitimidade para manter a sua população em segurança”.

Antes do discurso, o Governo britânico publicou um relatório de 45 páginas que resume os riscos previstos.

O relatório afirma que, “dada a incerteza considerável em torno das previsões para o desenvolvimento da IA, não há provas suficientes que excluam a possibilidade de que futuros sistemas de IA de alto desempenho, se forem mal posicionados ou inadequadamente controlados, possam representar uma ameaça existencial”.

“No entanto, muitos peritos consideram que este é um risco de probabilidade muito baixa”, sublinha o relatório.

Rishi Sunak disse ser importante ser “honesto sobre os riscos” enumerados no relatório, citando a potencial utilização da IA para “fabricar armas químicas ou biológicas”, “ataques cibernéticos, desinformação, fraude ou mesmo abuso sexual de crianças”.

“E nos casos mais improváveis, mas extremos, existe mesmo o risco de a humanidade perder completamente o controlo da IA”, acrescentou. Mesmo sem querer ser “alarmista”, vincou querer “desenvolver as proteções mais avançadas para a IA do que qualquer outro país do mundo”.

A intervenção de hoje pretendeu lançar as bases para a cimeira internacional de 01 e 02 de novembro em Bletchley Park, local a norte de Londres onde trabalharam os decifradores de códigos durante a Segunda Guerra Mundial.

A cimeira vai centrar-se nos riscos da chamada inteligência artificial avançada, que são sistemas capazes de realizar uma multiplicidade de tarefas e que constituem riscos desconhecidos para a segurança pública.

Estes sistemas baseiam-se em grandes modelos linguísticos, que são treinados com base em grandes quantidades de texto e dados.

Rishi Sunak espera que o evento resulte na primeira declaração internacional sobre a natureza dos riscos da IA e que irá propor a criação de um grupo de peritos internacionais, inspirado no modelo do Painel Intergovernamental sobre Mudanças Climáticas (IPCC), para publicar um relatório sobre o estado da ciência em matéria de IA.

O primeiro-ministro também defendeu o convite da China para o evento, sublinhando que não pode haver “uma estratégia séria para a IA sem, pelo menos, tentar envolver todas as grandes potências mundiais”.

A vice-presidente, Kamala Harris, vai representar os Estados Unidos na cimeira, onde fará um discurso sobre a abordagem da administração democrata à inteligência artificial.