Volume de dados não verificados gerados por inteligência artificial deve impulsionar abordagem, diz consultoria
Metade das organizações globais (50%) vai adotar uma postura de confiança zero (zero trust) para a governança de dados até 2028. A razão, segundo o Gartner: os dados gerados por inteligência artificial não verificados vão inundar o mercado, exigindo uma reação das companhias.
“As organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos”, diz em comunicado Wan Fui Chan, vice-presidente de gestão do Gartner. “À medida que os dados gerados por IA se tornam onipresentes e indistinguíveis dos dados criados por humanos, uma postura zero trust que estabeleça medidas de autenticação e verificação é essencial para proteger os resultados comerciais e financeiros.”
Leia também: Dynatrace leva IA agêntica ao centro de sua estratégia de observabilidade
Segundo o Gartner, os dados gerados por IA aumentam os riscos de colapso dos modelos e traz exigências novas de conformidade. Isso porque grandes modelos de linguagem (LLMs) são normalmente treinados com dados coletados na internet e de outras fontes, incluindo livros, repositórios de código e artigos. O problema é que algumas dessas fontes já contêm conteúdo gerado por IA, causando uma retroalimentação nociva.
Futuras gerações de LLMs serão cada vez mais treinadas com base nos resultados de modelos anteriores, alerta o Gartner, aumentando o risco de “colapso do modelo”, em que as respostas das ferramentas podem não refletir mais a realidade.
“Conforme o conteúdo gerado por IA se torna mais prevalente, espera-se que os requisitos regulatórios para verificar dados ‘livres de IA’ se intensifiquem em certas regiões”, diz Chan. “No entanto, esses requisitos podem diferir significativamente entre as regiões geográficas, com algumas jurisdições buscando aplicar controles mais rígidos (…), enquanto outras podem adotar uma abordagem mais flexível”.
Para o especialista, as organizações precisarão ter capacidade de identificar e fazer marcações em dados gerados por IA. “O sucesso dependerá de ter as ferramentas certas e uma força de trabalho qualificada em gestão de informações e de conhecimento, bem como soluções de gestão de metadados que são essenciais para a catalogação de dados”.
O Gartner lista algumas ações que as organizações devem tomar para gerenciar riscos de dados não verificados. São elas:
– Nomear um líder de governança de IA: cargo responsável pela governança de inteligência artificial, incluindo políticas de zero-trust, gerenciamento de riscos de IA e operações de conformidade. Esse líder deve trabalhar em colaboração com as equipes de dados para que os sistemas sejam capazes de lidar com conteúdo gerado por IA;
– Colaboração multifuncional: formar equipes multifuncionais que incluam segurança cibernética, dados e analytics e outras partes interessadas para conduzir avaliações de riscos de dados, incluindo os relacionados a informações geradas por IA, e determinar políticas de segurança e novas estratégias;
– Políticas de governança existentes: o Gartner recomenda que as estruturas de governança atuais de Data & Analytics sejam atualizadas, evitando criar tudo do zero;
– Práticas ativas de metadados: alertas em tempo real quando os dados estão desatualizados ou precisam de recertificação ajudam as organizações a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos a informações imprecisas ou tendenciosas, diz o Gartner.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
