Pode haver uma Green AI? Investigador português defende que sustentabilidade é obrigatória

A questão já tem sido apontada como um problema: os grandes modelos de linguagem consomem muita energia, na fase de treino da inteligência artificial e também na operação, mas este impacto negativo no ambiente tem sido relegado para segundo plano, face às vantagens da tecnologia. Luis Cruz defende que é preciso medir para avaliar o impacto real, mas também encontrar soluções para reduzir o consumo energético e conseguir modelos mais sustentáveis.

O investigador português está radicado na Holanda e tem-se dedicado à investigação centrada nos temas de eficiência energética e software, e mais recentemente na Inteligência Artificial. Em 2017 a sua investigação foi reconhecida como o paper mais influente da international Conference on Mobile Software Engineering and Systems e a ideia de melhorar o desenvolvimento de software para ser mais eficiente no consumo de energia tem acompanhado o seu percurso.

Luis Cruz confessa-se apaixonado pela área da sustentabilidade. “O meu principal objetivo é o Green AI e o Green Software by default”, explica em entrevista ao SAPO TEK, defendendo que não deve ser preciso ser um especialista em tecnologia verde para incorporar estas preocupações no desenvolvimento de software. As ferramentas e ambientes de desenvolvimento devem estar alinhadas para este propósito, tal como aconteceu com outras áreas, nomeadamente a segurança, e isso também passa pela sensibilização e formação dos engenheiros.

O Green AI, ou a solução para tornar a Inteligência Artificial mais sustentável, é atualmente o principal foco da investigação de Luis Cruz. Tal como aconteceu com o desenvolvimento de software e a ideia de conseguir que as aplicações consumam menos bateria, o investigador diz que esta é uma área onde ainda não há grande investigação, nem ferramentas para os developers.

Embora não existam números concretos de consumo de energia com os grandes modelos de IA (LLMs na sigla em inglês para Large Language Models), até porque as empresas não partilham muita Informação, Luis Cruz diz que treinar o ChatGPT 3.5 tem um custo à volta de 500 toneladas de emissão de CO2. Para contextualizar o número explica que é o equivalente a 1000 carros a percorrerem 1000 km. E treinar o modelo é apenas um primeiro passo, já que a energia é também necessária para a operação e para continuar a aprender.

“Há um lado muito positivo da IA, de melhorar a vida das pessoas, mas há também um lado menos bom, que é o impacto ambiental da tecnologia e o que assistimos nos últimos anos é que o impacto aumentou de uma forma que não acontecia desde os inícios da tecnologia”, justifica. Nos últimos anos a capacidade de processamento das máquinas aumentava duas vezes por ano, o software também exigia mais, mas ia evoluindo de forma mais ou menos linear. “Neste momento o que aconteceu foi que os requisitos de computação para correr esta IA duplicam a cada três meses, precisamos do dobro do hardware para por as tecnologias a correr”, justifica.

Luis Cruz alerta para o facto de “isto estar a acontecer por trás das cortinas”. “Como utilizador tenho muito pouca percepção disso, mas como investigador já vou monitorizando, fazendo experiências e reportando os números e a história não é tão simples como nos está a ser apresentada”.

O primeiro passo para o Green AI passa por medir o impacto e não basear a informação em apreciações pouco realistas. Os números são difíceis de obter, até porque “estamos numa fase de grande concorrência entre as empresas e faz parte do ‘segredo do negócio’”. Ainda assim reconhece que também as grandes empresas estão sob grande pressão interna para reduzir o consumo de energia, que é um custo elevado, e diz que nas estruturas internas também vão surgindo ideias e propostas para garantir mais sustentabilidade.

O investigador admite que uma das ideias é conseguir desenvolver modelos mais simples, e com menor consumo, usando os LLMs para os treinar em áreas específicas. “No imediato o que vai acontecer é que em vez de termos modelos generalistas, vamos ter modelos focados num domínio, validados e experimentados, para serem mais simples”, explica, apontando como exemplo a melhoria e correção de texto. Isso também tem benefícios para trazer a capacidade de Inteligência Artificial aos dispositivos mais pequenos, como os smartphones.

Formação e sensibilização para Green Software são necessárias

Depois de passar muito tempo a desmontar os telefones e a medir o consumo de energia nas várias aplicações, Luis Cruz está também apostado na formação e sensibilização dos developers para o Green AI e o Green Software. “Tem de haver muita investigação, incentivos das empresas e a formação tem de fazer parte dos currículos e termos muitos engenheiros com formação nesta área”, sublinha, dizendo que não faz sentido que os alunos não sejam expostos aos problemas durante a sua formação.

Luis Cruz defende que é importante formar os programadores e os lideres digitais da indústria no Energy Aware Development, mas também criar ferramentas para ser mais fácil o “desenvolvimento verde”. Até porque é esse desenvolvimento que pode trazer efeitos práticos a médio e longo prazo, sobretudo porque as empresas estão mais focadas em rentabilizar o negócio e nem sempre têm a sensibilidade para investir em modelos que permitam maior sustentabilidade.

“Os próprios programadores têm muita vontade de aprender mais sobre Green Software mas ao mesmo tempo têm muita dificuldade de o conseguir aplicar porque não há o incentivo”, reconhece Luis Cruz.

Para disseminar conhecimento, Luís Cruz já criou uma disciplina na universidade de Delft, desenvolvendo todos os materiais do zero e decidiu tornar todos os recursos públicos no seu site,  onde qualquer professor pode reutilizar a informação sem ter de investir em preparar os conteúdos. “Tive reconhecimento imediato de pessoas que estavam à procura dos conteúdos e não tinham tempo para os criar, e até da indústria que pediram acesso aos vídeos das aulas”. Para Luis Cruz isto mostra que há muita procura e que estamos no bom caminho.

E como vê o futuro próximo para o Green AI e Green Software? Apesar de optimista, o investigador admite que num cenário a cinco anos estaremos muito longe de ter o problema resolvido. “O futuro passa por aqui […] temos na IA um efeito negativo, o ‘Jevons Paradox’, que é o aumento dos recursos sem optimização da eficiência”.

Há novos datacenters a serem criados e “o plateau está longe de acontecer, por isso temos de começar já a tornar estes datacenter mais eficientes e criar modelos em que precisamos de menos datacenters”. Isso também passa pela optimização do software e da forma como usam os recursos dos CPUs e GPUs mas há ainda um longo caminho de investigação e desenvolvimento dos frameworks para que se torne uma realidade e Luis Cruz quer ajudar a desbravar este percurso com a sua investigação e envolvimento.