Opinião: IA interligada: aproveitar os investimentos

Por Ivo Ivanov (*)

 As empresas líderes na implementação de inteligência artificial (IA) em escala registam grandes ganhos em produtividade, redução de custos e receitas. Mas nem todas as empresas estão a alcançar o retorno do investimento (ROI) pretendido, impedidas pelos desafios na implementação e os estrangulamentos na infraestrutura de dados. Como podem as empresas melhorar o desempenho dos seus investimentos em IA? Como é que os líderes capitalizam a IA? E que infraestrutura é necessária para uma IA bem-sucedida?

Após o boom sustentado da IA ​​ao longo dos últimos 12 meses, está a haver dores de crescimento nas empresas à medida que a tecnologia amadurece rumo a um apoio empresarial omnipresente e gerador de receitas. Os dados da MIT Technology Review do início de 2024 revelam que 95% das empresas inquiridas já utilizavam, de alguma forma, IA em meados de 2024 e, ainda assim, 76% destas não iam para além de um a três casos de utilização em projetos-piloto. No entanto, 50% das empresas esperam implementar a IA em todas as funções empresariais dentro de dois anos, e 90% dos entrevistados afirmam que a sua empresa está preparada para aumentar os gastos com a preparação de dados e áreas adjacentes, como estratégia, mudança cultural e modelos de negócio. As empresas inquiridas relataram desafios na implementação da IA, incluindo a qualidade dos dados (49%), a infraestrutura ou pipelines de dados (44%) e as ferramentas de integração de dados (40%).

Para superar estes desafios, a cloud desempenha um papel importante na implementação da IA. As empresas de sucesso estão a utilizar a infraestrutura cloud para construir as suas IA ou adquirir serviços de IA fora da Cloud. De acordo com os últimos números da Deloitte, 80% das empresas mais bem-sucedidas no que diz respeito à implementação de IA generativa reportam maiores investimentos no consumo de cloud em 2024, como resultado da sua estratégia de IA. Entretanto, de acordo com a MIT Technology Review, mais de um terço (36%) das empresas e organizações estão a ser prejudicadas na sua implementação de IA devido a um estado de migração para a cloud incompleto.

Um estudo recente realizado pela associação AI Infrastructure Alliance mostrou que 38% das organizações têm a sua infraestrutura de IA totalmente configurada na cloud, enquanto que 29% têm um ambiente de infraestrutura híbrida. Estas empresas e organizações consideraram a disponibilidade e o custo da computação o seu desafio número um no dimensionamento da IA, enquanto a sua maior preocupação computacional era a latência (28%). Preocupações semelhantes foram levantadas por organizações europeias entrevistadas pela IDC, das quais 22% listam o desempenho e a latência da rede como a sua principal preocupação quando utilizam ou planeiam utilizar IA a partir da cloud, especialmente para casos de utilização que requerem dados em tempo real.

Desempenho da rede: chave para uma implementação bem-sucedida de IA

Para capitalizar os benefícios da IA, as empresas estão a investir fortemente na migração e na expansão da cloud para acompanhar a aceleração do crescimento dos dados. Podemos esperar um aumento impressionante dos dados gerados e processados ​​nos próximos cinco anos – e a maioria das empresas terá dificuldade em armazenar todos os dados relevantes nas instalações. Assim sendo, há uma utilização crescente de data lakes e warehouses baseados em cloud, permitindo uma escalabilidade simples e o armazenamento e a acessibilidade a dados brutos e estruturados. Mas estes devem ser acessíveis: precisam de se ligar a uma variedade de fontes de dados e a modelos de IA, muitas vezes também na Cloud.

Aqui, precisamos de diferenciar o treino da inferência. Para o treino em IA – seja no desenvolvimento do modelo em primeiro lugar ou para a requalificação do modelo – a latência não é tão crítica, mas a conectividade da largura de banda elevada é essencial. Para obter o máximo valor da cloud, sem incorrer em custos elevados com a saída dos dados, é melhor utilizar a solução de conectividade do próprio fornecedor de cloud, facilmente acessível a partir de uma variedade de Cloud Exchanges.

No caso da inferência de IA – ou IA em ação, como eu gosto de lhe chamar – é uma questão diferente: aqui, a latência é fundamental. Quer sejam bots de serviço ao cliente, de apoio ao marketing ou de desenvolvimento de produto, as inferências devem chegar sem demora para garantir uma produtividade contínua. Em casos de uso críticos em tempo real, como nos serviços financeiros, segurança informática, manutenção preditiva e veículos autónomos, os próprios modelos de IA necessitam de acesso em tempo real às fontes de dados, bem como aos destinatários pretendidos das inferências e Agentes de IA para os diferentes serviços e cargas de trabalho.

E tudo isto precisa de ser integrado para garantir o melhor desempenho dos serviços de IA – o que significa que o desempenho da rede – largura de banda elevada e baixa latência – entre fontes, clouds e destinatários é fundamental para uma implementação bem-sucedida.

Infraestrutura preparada para a IA – o papel da interconexão

Infelizmente, ainda hoje, muitas empresas estão a conectar o seu hardware local, data warehouses, Clouds de IA e soluções de IA como soluções de serviço através da Internet pública ou via trânsito IP (transporte de dados de terceiros), sem controlo sobre os caminhos dos dados e a jornada de dados, e sem garantias de desempenho. Isto impacta não só a latência da ligação, mas também a segurança dos dados críticos da empresa. Em vez disso, as empresas deveriam garantir uma conectividade dedicada, segura e direta a todas as redes, clouds, serviços e aplicações com as quais necessitam de trocar dados.

A melhor forma de controlar os fluxos de dados é controlando a forma como as redes se interligam. A interligação direta e de alto desempenho entre a rede da empresa e as redes cloud através de um Cloud Exchange, com a adição da funcionalidade de encaminhamento cloud, é determinante para a construção de um ambiente multicloud ou cloud híbrida responsiva e interoperável. A interligação direta com redes externas relevantes num Internet Exchange, utilizando peering ou uma interface de rede privada, permite que os dados sigam o caminho mais curto entre terminais – seguro, de baixa latência e altamente resiliente. E agora, a ligação direta e de baixa latência da rede da empresa com redes de IA como serviço de rede através de um AI Exchange permite também a externalização do desenvolvimento e operação de IA para fornecedores externos como parte de uma estratégia multi-AI.

Garantir a geração de valor a partir de investimentos em IA

As empresas que reportam o nível de especialização mais elevado na implementação da IA ​​generativa estão a adotar a IA genérica a um ritmo mais rápido e em todas as funções, bem como a escalar de forma mais agressiva. Estão também a liderar o caminho na criação de valor comercial a partir do uso de IA e na obtenção dos benefícios pretendidos. As transformações bem-sucedidas da IA ​​estão a conduzir a ganhos de produtividade entre 20 a 40%, uma redução de 25% no tempo médio de atendimento em call center e um aumento nas encomendas e no valor das mesmas, por exemplo.

Para que as empresas possam explorar as vantagens da IA, a linha de vida digital que consiste na transmissão de dados, troca de dados e interligação de redes deve ser contínua, fiável, segura e de alto desempenho. Há três elementos essenciais que precisam de ser considerados para a conectividade empresarial para e a partir das IAs: 1) conectividade direta com as clouds, 2) comunicação cloud-to-cloud e 3) conectividade direta com fornecedores de serviços de IA e outras redes relevantes (por exemplo, parceiros e redes de clientes). Utilizando uma combinação de Internet, Cloud e AI Exchanges, uma empresa pode otimizar todas as ligações de rede para permitir, entre outras coisas:

• ambientes multi-cloud resilientes e suaves para data lakes, modelos de ML e outros serviços e aplicações,
• acesso de baixa latência a ofertas AI as a Service,
• agregação e análise de dados (em tempo real) de múltiplas fontes (por exemplo, IoT ou clientes) para o desenvolvimento de novos produtos e serviços ou manutenção de equipamentos, e
• a partilha de dados e insights de forma segura e resiliente dentro de um ecossistema fechado de parceiros de negócio.

Para se conseguir isto num contexto regional ou global, em múltiplas filiais ou unidades de produção, as empresas e organizações estão, cada vez mais, a depositar a sua confiança em fornecedores de interligação de alto desempenho – nomeadamente operadores de Internet, Cloud e AI Exchange – não apenas para a implementação técnica das suas soluções de conectividade, mas também para consultoria e design de redes. Um especialista em interligação neutro pode ajudar a encontrar a melhor solução para as necessidades individuais através do seu ecossistema de parceiros. Desta forma, é possível conceber um ambiente de rede resiliente e seguro com a cobertura geográfica necessária, adaptado às necessidades individuais e ao negócio. As condições ideais para o desempenho em IA terão de deixar ser algo interessante de se ter para se tornarem padrão em qualquer estratégia de IA: De acordo com a IDC, 14% das empresas esperam que a sua utilização de cloud seja impactada pelo aumento das necessidades de conectividade e rede devido aos casos de uso de IA.

(*) é CEO da DE-CIX e Presidente do Conselho da DE-CIX Group AG desde 2022. Antes disso, Ivanov foi Diretor de Operações da DE-CIX e Diretor Executivo da DE-CIX International, responsável pelas atividades de negócio globais do principal operador de Internet Exchange a nível mundial.