OpenAI: Sam Altman defende maior controle da IA e a criação de uma entidade reguladora

À medida que a União Europeia avança no AI Act, que segue para votação no Parlamento Europeu em junho, do outro lado do Atlântico, os Estados Unidos também estão preocupados com a Inteligência Artificial. Ontem, Sam Altman, CEO da OpenAI, foi ouvido pelo Congresso dos EUA, numa audição onde apelou a uma maior regulação da tecnologia, apontando receios e preocupações com os riscos da tecnologia.

Durante a sessão de quase três horas, que decorreu num tom menos “conflituoso” do que em outras audições a responsáveis por gigantes tecnológicas, o CEO da OpenAI realçou que a intervenção do governo será essencial para mitigar os riscos dos sistemas de IA.

“À medida que esta tecnologia avança, compreendemos que as pessoas estão ansiosas acerca de como poderá mudar a forma como vivemos. Nós também”, afirmou Sam Altman, citado pela Associated Press.

Para mitigar os riscos, o responsável propôs, numa ideia apoiada por Gary Marcus, investigador da área que também testemunhou durante a sessão, a criação de uma entidade nos Estados Unidos, ou até a nível global, que tenha o poder para atribuir e retirar licenças para o desenvolvimento de modelos de IA de larga escala, além de regular a segurança dos sistemas e de assegurar que os mesmos passam por testes antes de serem lançados.

“Acreditamos que os benefícios das ferramentas que desenvolvemos até à data superam grandemente os riscos, mas garantir a segurança das mesmas é vital para o nosso trabalho”, enfatizou, citado pelo The New York Times. Para já, ainda não há certezas quanto à forma como esta regulação poderá ser implementada.

Entre as sugestões dos membros do subcomité incluem-se uma agência independente para supervisionar o desenvolvimento da tecnologia, assim como regras mais “apertadas” para as empresas, tanto no que respeita à divulgação da forma como os modelos funcionam e para evitar que as que têm mais peso no mercado acabem por dominá-lo. Mas questionado sobre a possibilidade de liderar esta organização pessoalmente, o criador da OpenAI afasta graciosamente a ideia.

[related-post id=”344265″ post_type=”post” /]

De acordo com Richard Blumenthal, esta audição foi a primeira de muitas concebidas para perceber os riscos e benefícios da tecnologia antes de se começarem a escrever medidas concretas. O senador admitiu também que, anteriormente, o Congresso não conseguiu acompanhar adequadamente o desenvolvimento de novas tecnologias, como as redes sociais. Agora, o objetivo é “evitar erros do passado”.

Na audição, vários membros do subcomité do Congresso expressaram as suas preocupações e receios acerca do desenvolvimento acelerado de sistemas de inteligência artificial. Quando questionado acerca dos seus piores receios em torno na tecnologia, Sam Altman reconheceu que os sistemas de IA, como aqueles que são desenvolvidos pela OpenAI, podem “causar graves danos ao mundo”.

Entre desinformação e consequências negativas no mercado de trabalho, outra das questões que levantou preocupações foi a possibilidade do uso de inteligência artificial para interferir em processos eleitorais, avança a Reuters.

Recorde-se que, recentemente, a vice-presidente dos Estados Unidos, Kamala Harris, reuniu-se com responsáveis da Google, Microsoft, OpenAI e Anthropic para discutir os receios e questões levantadas sobre a inteligência artificial.

Ainda em abril, o Presidente dos Estados Unidos, Joe Biden, afirmou que a IA poderia ajudar a lidar com doenças e mudanças climáticas, mas também pode prejudicar a segurança nacional e a economia de uma forma destabilizadora.