Concorrência britânica também vai analisar compra da VMWare
Novembro 21, 2022À roda da Lua e na rota certa antes de voltar à Terra: Orion completa fase crítica da missão Artemis I
Novembro 21, 2022Lançado recentemente pela Meta, o modelo de inteligência artificial Galactica tinha como missão ajudar cientistas e estudantes. No entanto, nem uma semana após o lançamento, a empresa liderada por Mark Zuckerberg acabou por fechar temporariamente o acesso do modelo ao público depois de cientistas demonstrarem que o modelo estava a gerar informação falsa ou enganadora.
De acordo com a casa-mãe do Facebook, o Galactica foi treinado com recurso a 48 milhões de exemplos vindos de artigos científicos, manuais, enciclopédias e websites, prometendo ser capaz de realizar uma variedade de tarefas: de resumir trabalhos académicos a resolver equações matemáticas e gerar artigos para a Wikipédia.
Porém, como reporta a imprensa internacional, vários cientistas que experimentaram o Galactica notaram que, uma vez que o modelo de IA não era capaz de distinguir entre informação verdadeira e falsa, os resultados eram preocupantes.
Por exemplo, Michael Black, diretor do Instituto Max Planck de Sistemas Inteligentes, na Alemanha, detalha através do Twitter que, durante as suas experiências com o modelo, a informação gerada em todos os casos estava errada ou era “enviesada”, mas soava fidedigna.
[twitter url=”https://twitter.com/Michael_J_Black/status/1593133722316189696″/]
O responsável aponta ainda casos de artigos gerados pelo modelo da Meta que citavam nomes de cientistas reais, mas que faziam referência a artigos científicos, ou até repositórios no GitHub, que não existiam.
Já Willie Agnew, investigador da área de ciências da computação da Universidade de Washington, realça que o modelo não era capaz de apresentar resultados de pesquisa relativos a uma variedade de temáticas, incluindo racismo, SIDA, ou teoria queer.
[twitter url=”https://twitter.com/willie_agnew/status/1592829238889283585″/]
Gary Marcus, cientista da área de Inteligência Artificial (IA) na Universidade de Nova Iorque (NYU) que, durante a edição deste ano do Web Summit, já tinha alertado para a necessidade de olhar para a questão da produção de conhecimento por sistemas de IA num panorama mais abrangente, partilha também a sua opinião sobre o Galactica, incluindo alguns exemplos da informação falsa ou enganadora gerada através do modelo.
[related-post id=”322106″ post_type=”post” /]Recorde-se que, para o cientista, que partilhou o palco do Web Summit com o conhecido linguista Noam Chomsky, Gary Marcus, os sistemas de IA atuais estão a perpetuar dados e “biases” antigos, acabando por produzir desinformação, numa situação que pode ter “consequências devastadoras” para a democracia.
