Implementar IA na borda pode não apenas reduzir latência e os custos de rede, mas também desbloquear o poder da inteligência distribuída
Muitas coisas estão sendo chamadas de “inteligentes” hoje em dia – tudo, de lâmpadas a carros. Cada vez mais, a inteligência vem de alguma forma de inteligência artificial ou machine learning.
A IA não está mais limitada a grandes centros de dados centrais. Ao movê-lo para a borda, as empresas podem reduzir a latência, melhorar o desempenho, reduzir os requisitos de largura de banda e permitir que os dispositivos continuem a operar mesmo quando não há conectividade de rede.
Um dos principais motivadores para o uso de IA na borda é que a grande quantidade de dados produzidos no campo prejudicaria a Internet se tudo tivesse que ser processado por soluções de computação em nuvem centralizadas e centros de dados tradicionais.
“A necessidade de enviar todos esses dados para uma nuvem centralizada para processamento ultrapassou os limites de largura de banda e latência da rede”, disse Ki Lee, Vice-Presidente da Booz Allen Hamilton.
Entre na era da edge computing habilitada para IA.
Poucas empresas estão enfrentando esse problema tanto quanto a Akamai. A Akamai opera a maior rede de distribuição de conteúdo do mundo, com, na última contagem, cerca de 325.000 servidores em mais de 135 países, entregando mais de 100 TB de tráfego da web a cada segundo.
A edge computing é a chave para melhorar o desempenho e a segurança, diz Ari Weil, Vice-Presidente Global da Akamai para marketing de produto e indústria.
Veja os bots, por exemplo.
“Os bots são um grande problema na Internet”, diz Weil. Eles atacam os clientes da Akamai com preenchimento automático de credenciais e ataques de negação de serviço. Além disso, eles obstruem os canos com tráfego inútil, custando dinheiro à Akamai.
Os cibercriminosos também estão usando bots para tentar penetrar nas defesas de empresas e firmas de pesquisa e organizações de saúde. Às vezes, sua maldade não conhece limites. Por exemplo, os hackers começaram recentemente a usar bots como os equivalentes Covid-19 do roubo de tíquetes – pegando os horários das vacinas.
A Akamai vê 485 milhões de solicitações de bot por hora e 280 milhões de tentativas de login de bot por dia. Na batalha contra eles, a Akamai começou a implantar IA na borda em 2018 para determinar se um usuário específico é um ser humano real ou um bot.
“Em seguida, aplicamos ações imediatas, como desafios progressivos”, diz ele. “Por exemplo, temos um desafio de JavaScript em que pedimos ao navegador para fazer algum trabalho. Se o navegador não for um navegador real, ele não fará o trabalho. Também tentamos levar o operador do bot à falência, tornando os custos de computação muito caros”.
Em 2019, a Akamai também começou a usar o aprendizado profundo centralizado para identificar os comportamentos dos bots e desenvolver melhores modelos de machine learning. Esses modelos são, então, distribuídos para a borda para realmente fazer o trabalho.
A IA também é usada para analisar a inteligência de ameaças na Akamai. “É um problema de Big Data”, afirma Weil. “Pegamos uma grande quantidade de dados, em um enorme data lake, e testamos diferentes modelos com os dados para encontrar assinaturas maliciosas. Depois de identificar os padrões, podemos usar isso em toda a plataforma”.
Às vezes, as mensagens são inócuas, mas vêm de uma fonte mal-intencionada – comando e controle do tráfego, por exemplo.
“Nós treinamos o modelo de borda para reconhecer o tráfego que vem desta região específica, ou este endereço IP específico, e aplicamos as técnicas de mitigação diretamente na borda”, diz Weil.
O resultado final é que a Akamai economiza dinheiro porque não precisa transportar o tráfego dos bots ou do malware. Os clientes economizam dinheiro porque não precisam pagar pelo desperdício de largura de banda. E os clientes estão mais seguros porque têm menos bots e amostras de malware para lidar.
No quarto trimestre de 2020, a Akamai foi capaz de interromper 1,86 bilhão de ataques em nível de aplicativo, diz Weil, e impedir mais de 70 bilhões de ataques de abuso de credencial.
A IA na borda também pode diminuir a carga de dados e de rede das estratégias de internet das coisas. Os dispositivos IoT podem gerar uma grande quantidade de informações, mas geralmente essas informações são rotineiras e repetitivas.
“Há muitas mensagens ‘I’m OK, I’m OK’ sendo geradas [por dispositivos IoT]”, diz Weil. “Então você analisa tudo isso e procura o sinal que diz que o sistema pode estar falhando. Isso precisa voltar para o fabricante”.
Para fazer isso, a tecnologia de machine learning é implantada na borda para aprender quais são os sinais críticos e para pré-processar os dados antes de serem enviados ao cliente.
Considere, por exemplo, um carro conectado. Ele se move de uma zona de célula e torre para outra, para diferentes estados, até mesmo para diferentes altitudes e climas. Uma leitura apropriada para um local pode não ser apropriada para outro ou o problema pode ser sinalizado por uma mudança rápida nos dados. Aqui, o machine learning está se tornando essencial.
“Trazer a inteligência para os dispositivos é uma das áreas de maior crescimento da IoT no momento”, diz Carmen Fontana, membro do IEEE e Líder de Prática de Tecnologia Emergente e Nuvem na Centric Consulting.
O problema surge em muitas indústrias, não apenas em automóveis, embora os veículos em movimento tenham alguns dos maiores requisitos de latência. “Você não quer voltar ao data center principal para tomar uma decisão e trazê-la de volta”, diz ela. “Não há tempo para isso”.
Mas mesmo os dispositivos de movimento lento ou estacionários se beneficiam de mais processamento na borda.
“Um exemplo comum são os painéis solares no meio do nada”, diz ela. “Eles não têm um ótimo serviço de celular ou WiFi. Ser capaz de processar dados e tomar decisões localmente é muito importante”.
A inteligência distribuída também permite que as empresas reduzam o volume de tráfego de mensagens de volta dos dispositivos, o que reduz os custos de rede – e o uso de energia.
“O armazenamento de dados é caro e não economiza energia”, diz ela. “Se você puder eliminar muitos dados que, de outra forma, teria transferido e armazenado, então é uma ótima peça de conservação de energia”.
A IA também está sendo cada vez mais usada na borda para fornecer dispositivos com funcionalidades diferenciadoras.
“No meu pulso, tenho um smartwatch e um dispositivo de recuperação”, diz Fontana. “O dispositivo de recuperação detecta minhas métricas – minha frequência cardíaca, padrão de respiração. Ele faz cálculos sobre o quão descansado está meu corpo e o quão duro eu deveria me esforçar no meu próximo treino”.
A funcionalidade de IA no limite pode ajudar a criar um ambiente de computação distribuída inteligente em dispositivos de rede – um benefício exclusivo para organizações que sabem como aproveitar isso.
A indústria de serviços públicos está especialmente interessada em inteligência distribuída, diz Tim Driscoll, Diretor de Resultados de Gerenciamento de Informações da Itron, empresa de tecnologia de gerenciamento de recursos hídricos e energia.
“Os medidores na extremidade da rede de distribuição da concessionária têm uma plataforma de aplicativos semelhante ao modelo de smartphone comum”, diz ele. Esses medidores usam machine learning para responder às variações de tensão e condições de carga. “Isso permite que os medidores forneçam recomendações proativas e em tempo real para o controle da rede”.
Mas o mais intrigante é que os medidores podem trabalhar juntos, aprendendo com o comportamento, desempenho e confiabilidade de sua própria rede de comunicação – e então usar isso para eleger líderes entre si que falam à rede em seu nome.
“Isso simplifica o gerenciamento da rede, eliminando a necessidade de análise centralizada”, diz ele.
E à medida que os sistemas de energia evoluem para incluir geração de energia mais distribuída na grade de distribuição, a edge computing torna-se ainda mais importante. Tradicionalmente, apenas a carga local era uma variável para redes de energia – a geração e o fluxo de energia eram todos controlados centralmente. Hoje, todos os três são variáveis.
“Este é o principal motivador para uma resposta autônoma, local e em tempo real com base no processamento de borda e no machine learning”, diz Driscoll.
Além de melhor latência e custos mais baixos, levar a IA e o machine learning ao limite também pode ajudar a tornar a IA mais rápida, de acordo com Lee, da Booz Allen Hamilton. Isso porque descentralizado, o Edge AI maximiza a frequência com que os modelos são calibrados, “o que não apenas reduz os custos e cronogramas de desenvolvimento do modelo, mas também aumenta o desempenho do modelo”, diz ele.
Mas a IA na borda também apresenta riscos e desafios, Lee diz. Isso inclui a atual falta de padrões.
“Vemos uma grande variedade de dispositivos de hardware de borda, chipsets de processador, sensores, formatos de dados e protocolos que geralmente são incompatíveis”, diz ele, acrescentando que é necessário haver mais foco no desenvolvimento de arquiteturas abertas comuns.
Além disso, muitos jogadores neste espaço estão se concentrando em soluções únicas que não são escalonáveis ou interoperáveis – ou são baseadas em modelos tradicionais de entrega de software.
“Ainda estamos vendo aplicativos monolíticos que são desenvolvidos para dispositivos específicos”, diz ele. “Do ponto de vista do design, também vimos arquiteturas hub-and-spoke típicas”, que podem falhar quando a conectividade é limitada.
Outro desafio da IA distribuída é a segurança cibernética. “Com o número de dispositivos de borda implantados, a superfície de ataque aumenta significativamente”, diz ele.
Já vimos invasores tirando proveito de dispositivos IoT inseguros, como o botnet Mirai que infectou centenas de milhares de dispositivos em 2016. À medida que os dispositivos IoT proliferam – e ficam mais inteligentes – os riscos que eles representam também aumentam.
Uma abordagem é aplicar o machine learning ao problema, usando-o para detectar ameaças. Mas o hardware de borda é normalmente menor e mais restrito em recursos, limitando a quantidade de dados que pode ser processada, disse Lee.
Onde a edge computing com IA pode fazer uma grande diferença na segurança cibernética é nos micro-data centers, diz Shamik Mishra, CTO de Conectividade nos Negócios de Engenharia e P&D da Capgemini.
“A detecção de ameaças, o gerenciamento de vulnerabilidades, a segurança de perímetro e a segurança de aplicativos podem ser tratados no limite”, diz ele, e os algoritmos de IA podem ser descentralizados para detectar ameaças por meio da detecção de anomalias.
Novas tecnologias, como a borda de serviço de acesso seguro, também estão surgindo, diz Mishra. Eles combinam redes de longa distância com funcionalidade de segurança.
“Quanto mais distribuímos uma funcionalidade, mais o sistema se torna vulnerável à medida que aumenta a área de superfície para ataques”, diz ele. “Portanto, os aplicativos de edge computing devem manter a segurança como uma prioridade de design”.
