Reduzir riscos da IA exige mais ciência, literacia e regulação. Ensino ganha, trabalho pode perder

A par das “maravilhas” oferecidas, os riscos relacionados com vieses, ética, segurança dos dados, consumo energético elevado, ameaça a postos de trabalho estão entre as várias preocupações que rodeiam a incontornável “convivência” com a inteligência artificial. A (primeira) boa notícia é que, com a estratégia certa, é possível aumentar os muitos benefícios e reduzir as desvantagens.

A aposta deve passar por mais desenvolvimento científico, para integrar princípios éticos e tornar a IA sustentável, além da adoção de regulação e do investimento em intervenção social, para promover o uso responsável e justo da tecnologia. No lado das vantagens, “a educação não deve ter medo da inteligência artificial”, defendeu José Júlio Alferes, em entrevista ao SAPO TEK.

Especializado em inteligência artificial décadas antes do tema estar em voga, o Diretor da NOVA FCT, notou que atualmente, não é fácil, “se é que é possível”, introduzir princípios éticos nos processos de decisão com IA. Mas talvez esse não seja o maior problema.

“Talvez maior do que todos esses riscos de ética, são os riscos que esta nova e potente tecnologia pode colocar na atual organização do trabalho, e até da sociedade, e o que isso pode implicar no aumento das desigualdades: entre os que têm acesso à tecnologia e os que não têm, entre os que se integram, no trabalho, com esta tecnologia, e os que não”.

Há um outro risco importante que nem sempre é lembrado em relação à IA: a sustentabilidade. “A energia necessária para treinar os grandes modelos de linguagem é brutal, ao nível do consumo energético de países médios. A continuar neste ritmo, em breve esses gastos energéticos levarão a problemas ambientais e de sustentabilidade”, alertou.

Para José Júlio Alferes a mitigação destes riscos passa por mais ciência e mais intervenção social. “Mais ciência, porque é preciso levantar certas limitações atuais da IA, na integração de princípios éticos, na necessidade de conseguir obter sempre justificações das decisões da IA, na necessidade de maior transparência”.

Para José Júlio Alferes a mitigação destes riscos passa por mais ciência e mais intervenção social. “Mais ciência, porque é preciso levantar certas limitações atuais da IA, na integração de princípios éticos, na necessidade de conseguir obter sempre justificações das decisões da IA, na necessidade de maior transparência”.

Apesar do incrível desenvolvimento científico da IA, o diretor da NOVA FCT considera que ainda há muito a fazer para que possamos ter uma IA responsável e verdadeiramente ao serviço da humanidade. “E mais ciência também para tornar a IA mais sustentável. Não é um problema fácil, mas temos algumas pistas de que será possível. Afinal, todos nós conhecemos uma máquina que é capaz de uma inteligência notável com gastos de energia muito baixos: o cérebro humano”.

Como em qualquer recurso com o potencial de impacto que a IA tem, muitos dos perigos não estão na tecnologia em si, mas sim na forma como é usada e por isso será necessária mais intervenção social.

A mitigação dos riscos também passa pelas políticas regulatórias, que não são necessariamente um travão à inovação, como alguns “mais ávidos de benefícios próprios a curto prazo” alegam. “Por vezes foram mesmo um motor da inovação noutras tecnologias”, apontou o diretor da NOVA FCT, dando como exemplo a indústria automóvel.

“Será que conseguimos imaginar como seria o mundo se não houvesse qualquer regulação na indústria automóvel e no uso de automóveis? O que é que isso implicaria na segurança dos condutores?”, perguntou. “A regulação na indústria automóvel não veio travar a inovação nesta tecnologia; pelo contrário, sempre foi um motor de mais e melhor inovação”, defendeu, acrescentando que, a médio prazo devem ocorrer os mesmos processos de regulação, relativamente à IA.

“Não conheço tecnologias de grande impacto, como é a IA, que não tenham tido também políticas regulatórias. A IA não pode ser exceção”.

Ter uma IA mais ética e responsável, com decisões mais justas e equitativas, passa pela aposta em mais desenvolvimento científico, “já agora, com ajuda da regulação que pode servir como catalisador”.

Uma educação “sem medos” da IA

E se a regulação é necessária para impor regras que forcem a um uso mais responsável da tecnologia, quer por parte de quem desenvolve quer por parte de quem usa, a educação servirá para conhecer melhor a tecnologia e, consequentemente, fazermos um melhor uso dela.

“E educação em geral, pois só com mais conhecimento podemos ter uma sociedade mais harmoniosa e sustentável e, por isso, mais ética e responsável – e com a IA não é diferente”, diz José Júlio Alferes.

O responsável da NOVA FCT acredita que a IA pode transformar a educação de formas diferentes e significativas, nomeadamente tornando-a muito mais eficiente. “Como a máquina de calcular, a IA veio mudar a forma como se ensina. Pode também ajudar, por exemplo, a sistematizar a informação, contribuindo para uma melhor exposição dos conhecimentos”.

José Júlio Alferes, diretor da NOVA FCT

No entanto, com a introdução da máquina de calcular, houve que acautelar que o raciocínio aritmético não fosse perdido, ou seja, que não se deixasse de saber fazer contas, o mesmo deve acontecer relativamente à IA, no sentido de “acautelar que os jovens não perdem capacidades de organizar e sistematizar informação”.

Dado adquirido é que a IA levanta grandes desafios ao ensino-aprendizagem tal como o conhecemos hoje, sublinhou.

Por outro lado, a IA pode ajudar como ferramenta ao serviço dos educadores, por exemplo, desatando padrões de deficiências no processo de aprendizagem de alguns estudantes, analisando e concluindo sobre melhores formas de ensinar, e permitindo um ensino simultaneamente mais massificado e mais personalizado.

Ponto assente é que “a educação não deve ter medo da inteligência artificial”, rematou José Júlio Alferes.

O trabalho e o perigo das “castas” laborais

A IA vem mudar o mercado de trabalho de uma forma que pode até ser maior do que assistimos nas outras revoluções industriais, considera José Júlio Alferes, com uma série de profissões valorizadas hoje que poderão desaparecer.

Ao contrário do que aconteceu com as anteriores revoluções no mundo de trabalho, agora estamos a falar de profissões que são ou eram vistas como tarefas não repetitivas e monótonas, “tarefas que requerem inteligência e formação superior”, explicou. Por outro lado, surgirão certamente novas profissões, “como aconteceu das outras vezes”.

“Esta transferência de profissões vai ser dura, como antes também foi, e deve ser acompanhada de perto para não causar graves problemas sociais”, defende José Júlio Alferes.

É importante evitar uma situação em que “há ‘castas’ laborais “com competências para as novas profissões, enquanto outros, que não têm estas competências, ficam abandonados”.

Além disso, é muito provável que o volume total de trabalho venha a diminuir e também aqui será preciso ter atenção para que esse decréscimo possa ser redistribuído entre todos. “Não acredito que, deixado ao livre arbítrio do ‘mercado’, seja possível alcançar esse equilíbrio”, alertou José Júlio Alferes.