Faça da governança da IA uma parte essencial do seu ecossistema de parceiros

Por Luís Gregório (*)

Metade dos líderes globais integra a IA Generativa em produtos e serviços. Por outro lado, muitas organizações estão a expandir parcerias e a criar conselhos de ética de IA, por exemplo, para ajudar a garantir que tiram o máximo partido das suas estratégias de governança de IA Generativa

O burburinho inebriante que rodeou a IA no ano passado está a evoluir para algo muito mais substancial e empolgante – uma transformação empresarial sustentável e duradoura. Mas para que isso aconteça, para que a mudança se mantenha, tem de assentar em práticas de governança sólidas e proativas.

À medida que a IA é cada vez mais incorporada nos fluxos de trabalho diários de toda a empresa, há uma maior necessidade de uma tomada de decisão responsável e ética baseada em IA em toda a organização e ecossistema de parceiros. As crescentes preocupações éticas com a tecnologia estão a levar os decisores políticos a nível global a impor nova regulamentação, aumentando a pressão sobre as organizações para mitigarem o risco e implementarem proteções adequadas em torno da tecnologia.

Embora a utilização da IA nas empresas não seja nova, a sua omnipresença é. Durante anos, a IA foi utilizada de uma forma muito direcionada, muitas vezes apoiando um caso ou negócio focado numa única utilização. Não havia muita visibilidade em toda a organização sobre como a IA era adotada em diferentes negócios. Agora a sua utilização tende a ser transversal no dia a dia da organização.

A IA já existe há décadas, mas a introdução do ChatGPT – um chatbot de IA “amigável” para o consumidor – no final de 2022 deu início a uma corrida desenfreada para a integração de aplicações de IA generativa nos fluxos de trabalho empresariais. Um estudo recente realizado pelo IBM Institute for Business Value (IBV) a 3000 líderes globais em mais de 30 países e 24 indústrias revelou que metade deles já está a integrar a IA generativa em produtos e serviços.

Os clientes empresariais querem pôr a IA a funcionar com rapidez, escalabilidade e segurança – para irem além dos pilotos e provas de conceito com o objetivo de criarem verdadeiramente inovação e valor – mas esse estudo concluiu que 80% dos líderes empresariais citaram questões como explicabilidade, ética, viés, transparência e confiança como principais preocupações no desenvolvimento de fluxos de trabalho e aplicações de IA.

A governança de IA refere-se aos princípios e às metodologias que garantem a utilização responsável da IA, assegurando que a sua utilização desta tecnologia esteja alinhada com os princípios éticos da organização em termos de gestão de riscos, garantindo uma implementação ética e mantendo a transparência.

No setor financeiro, por exemplo, uma boa governança assegura que o seu modelo de IA apoia um processo de aprovação de crédito justo e transparente. Nos cuidados de saúde evita recomendações de diagnóstico e tratamento imprecisas e potencialmente prejudiciais.  Para um departamento de RH, a boa governança pode conduzir a práticas de contratação justas, detetar e mitigar proativamente o enviesamento e fornecer documentação para apoio à auditoria.

O poder dos parceiros de negócio

Cada vez mais, os parceiros de negócio desempenham um papel importante, ajudando as organizações a refletir sobre os pontos cegos da sua estratégia de implementação. Sem estas salvaguardas, as organizações podem ficar vulneráveis a incumprimentos regulamentares, auditorias, coimas, imprensa negativa e, em casos extremos, sanções penais. Os setores altamente regulamentados, como o financeiro, o governamental e o da saúde, são especialmente vulneráveis.

Metodologias de governança claras suportadas em plataformas tecnológicas fornecem diretrizes que estimulam a inovação responsável, assegurando que os avanços na IA se alinham com os valores e necessidades da sociedade. Idealmente, uma base de governança da IA deve englobar vários aspetos:

• As considerações éticas ajudam a garantir a equidade, uma vez que ajudam a evitar a discriminação e o preconceito. Os sistemas de IA podem, por exemplo, inadvertidamente, perpetuar e amplificar os preconceitos sociais presentes nos dados de treino. Devem existir orientações claras sobre a forma como os sistemas de IA fazem recomendações e tomam decisões para aumentar a transparência, a responsabilidade e a confiança entre os utilizadores e as partes interessadas.
• As políticas e procedimentos internos, as normas da indústria e a conformidade regulamentar garantem a proteção dos dados e salvaguardam a privacidade dos utilizadores.
• As organizações devem ter uma noção clara da gestão de riscos. Uma governança robusta ajuda a abordar as preocupações de segurança relacionadas com a IA, protegendo contra a utilização maliciosa, a pirataria informática ou o acesso não autorizado a informações sensíveis.
• Garantia de qualidade. Garantir a fiabilidade e a precisão dos sistemas de IA é vital para evitar consequências não intencionais e impactos negativos nas empresas ou nos indivíduos.
• Gestão de dados. A arquitetura da informação é a base para a adoção bem-sucedida de modelos de IA. A qualidade do resultado do modelo é tão boa quanto os dados que o integram ou os dados em que é treinado.

Muitas organizações estão a expandir parcerias e a criar conselhos de ética de IA, por exemplo, para ajudar a garantir que tiram o máximo partido das suas estratégias de governança de IA Generativa. A parceria com especialistas que entendem as melhores práticas de governança de IA ajuda essas organizações a aumentar os seus programas de governança de IA, identificar lacunas e otimizar os processos existentes.

Estamos todos entusiasmados com o potencial comercial da IA. Mas se não construirmos corretamente os alicerces, será difícil readaptar o que se está a construir para cumprir os valores essenciais de explicabilidade, ética, transparência e confiança que todos devemos exigir da IA. A metodologia e o ecossistema de parceiros certos podem ajudá-lo a chegar a um ponto que garanta que as decisões responsáveis e éticas estão no centro do seu negócio melhorado pela IA.

(*) IBM Technical Partner Architect na IBM Portugal