Rascunho inicial do Código de Prática traz metas de transparência e mitigação de riscos sistêmicos
Um primeiro rascunho de um Código de Prática que se aplicará aos provedores de modelos de IA de uso geral sob o AI Act da União Europeia foi publicado, juntamente com um convite para feedback — aberto até 28 de novembro. O processo de elaboração continuará até o próximo ano, antes dos prazos formais de conformidade entrarem em vigor nos próximos anos. As informações são do Tech Crunch.
A lei pan-europeia, que entrou em vigor neste verão, regula aplicações de inteligência artificial sob um quadro de risco. Mas também direciona algumas medidas para os modelos mais poderosos — ou de uso geral — de IA (GPAIs). É aí que este Código de Prática entra em cena.
Entre as empresas que provavelmente estarão na mira do Código estão OpenAI (criadora dos modelos GPT), Google (com seus modelos Gemini), Meta (com Llama), Anthropic (com Claude) e outras, como a francesa Mistral. Essas empresas deverão seguir o Código de Prática da IA de Uso Geral para garantir que estão em conformidade com o AI Act e, assim, evitar o risco de aplicação de penalidades por não conformidade.
Leia também: Elon Musk e a separação conturbada com a OpenAI: a história não contada
O Código visa fornecer orientação para o cumprimento das obrigações do AI Act. Os provedores de GPAI podem optar por se desviar das sugestões de melhores práticas se acreditarem que podem demonstrar conformidade por meio de outras medidas. Este primeiro rascunho do Código tem 36 páginas, mas provavelmente ficará mais extenso — talvez consideravelmente —, pois os redatores avisam que ainda está “leve em detalhes”, sendo um “plano de redação de alto nível que delineia nossos princípios orientadores e objetivos para o Código”.
As exigências de transparência para fabricantes de GPAIs entrarão em vigor em 1 de agosto de 2025. Para os GPAIs mais poderosos — definidos pela lei como tendo “risco sistêmico” —, a expectativa é que cumpram os requisitos de avaliação e mitigação de riscos 36 meses após a entrada em vigor (ou 1 de agosto de 2027).
O Código contém uma lista de tipos de risco que os signatários deverão tratar como riscos sistêmicos, incluindo:
– Riscos de cibersegurança ofensiva (como descoberta de vulnerabilidades);
– Riscos químicos, biológicos, radiológicos e nucleares;
– “Perda de controle” (incapacidade de controlar uma IA autônoma e poderosa);
– Persuasão e manipulação, incluindo desinformação em larga escala;
– Discriminação em larga escala.
Os redatores também indicam que os fabricantes de GPAI poderiam identificar outros tipos de riscos sistêmicos que não estão listados explicitamente, como violações de privacidade em larga escala e vigilância.
Outra medida prevista no Código é um “Quadro de Segurança e Segurança” (SSF). Os fabricantes de GPAI precisarão detalhar suas políticas de gerenciamento de riscos e identificar continuamente riscos sistêmicos que possam surgir de seus modelos de IA.
Um sub-item interessante relacionado ao SSF é a “Previsão de Riscos”, que compromete os signatários a incluírem “estimativas do melhor esforço” sobre quando esperam desenvolver um modelo que desencadeie indicadores de risco sistêmico. Isso pode significar que, a partir de 2027, veremos desenvolvedores de IA de ponta divulgando previsões sobre quando esperam que o desenvolvimento de modelos atinja certos limites de risco.
O Código também destaca que os GPAIs com risco sistêmico devem usar “as melhores avaliações disponíveis” das capacidades e limitações de seus modelos, aplicando “uma variedade de metodologias adequadas”. Exemplos incluem conjuntos de perguntas e respostas, benchmarks, testes adversariais (red-teaming), estudos de elevação humana, organismos-modelo e simulações.
Os redatores do Código enfatizam que este é apenas um rascunho inicial e, consequentemente, as sugestões são provisórias e estão sujeitas a alterações. Eles convidam contribuições construtivas para desenvolver e atualizar o conteúdo do Código e avançar para uma versão mais granular até 1º de maio de 2025.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
