UE aprova primeira legislação sobre Inteligência Artificial

Aprovada pelo Parlamento da União Europeia nesta quarta-feira (13), a nova Lei de Inteligência Artificial marca um passo significativo na proteção contra os avanços rápidos da tecnologia. Considerada a mais ampla barreira protecionista até o momento, ela pode servir de modelo para a regulamentação do uso de IA em países ocidentais.

Enquanto as empresas argumentam que a legislação é excessivamente abrangente, os órgãos de controle acreditam que não vai longe o suficiente. Em uma coletiva de imprensa, Brando Benifei, eurodeputado italiano e co-relator do projeto, expressou satisfação com a aprovação da lei, chamando o evento de um marco no caminho para a regulamentação da IA.

Leia mais: IA têm mudado como empresas pensam futuro, diz especialista da Microsoft

Dragos Tudorache, outro deputado co-relator, destacou que a lei encontrou um equilíbrio entre a necessidade de inovação e a proteção dos interesses. Ele observou que, dado o constante desenvolvimento da inteligência artificial, o projeto é apenas o começo e a vigilância contínua será crucial para enfrentar os futuros desafios.

A lei aprovada proíbe o uso da IA para detectar emoções em ambientes de trabalho e educacionais, além de impor limitações sobre seu uso em situações sensíveis, como na análise de currículos para empregos.

Principais pontos a entender:

1. Proibições: não é permitido capturar imagens da internet ou de circuitos fechados de TV para criar bancos de dados de reconhecimento facial. Também não se pode usar sistemas biométricos sensíveis, como reconhecimento de emoções em locais de trabalho ou escolas, classificação social, ou inteligência artificial que manipule comportamento humano ou explore vulnerabilidades. O policiamento preditivo, baseado apenas na construção de perfis ou na avaliação de características, também é proibido.

2. Transparência: todos os sistemas de IA devem respeitar as normas de direitos autorais existentes e divulgar informações sobre os dados utilizados para treiná-los. Modelos de uso geral, especialmente os mais poderosos, devem cumprir requisitos adicionais, como avaliação de riscos, mitigação de problemas sistêmicos e comunicação de incidentes.

3. Redução de riscos: sistemas de IA serão considerados de alto risco se estiverem envolvidos em infraestruturas críticas, como educação, emprego, serviços públicos essenciais, aplicação da lei, migração, fronteiras, justiça e processos democráticos. Esses sistemas devem avaliar e reduzir seus riscos, manter registros de uso, ser transparentes e garantir supervisão humana.

4. Priorização: ambientes serão criados para regulamentação e testes de IA em condições reais, acessíveis especialmente para pequenas empresas. O objetivo é desenvolver e treinar IA inovadora antes que chegue ao mercado.

Esta lei é a primeira a apresentar restrições aos sistemas de Inteligência Artificial generativo, aqueles capazes de produzir conteúdo de texto, vídeo e imagem. Esta tecnologia vem chamando atenção mundial desde o ano passado com a popularização do ChatGPT.

Em reta final das discussões da lei, os governos da França e da Alemanha foram contra estas restrições, pois as regras prejudicariam grandes startups de seus países, como a Mistral AI e a Aleph Alpha. O Corporate Europe Observatory (CEO), grupo da sociedade civil, argumentam que big techs e empresas europeias tiveram influência sob a elaboração do texto.

“Essa influência unilateral fez com que a ‘IA de uso geral’ ficasse amplamente isenta das regras e só precisasse cumprir algumas obrigações de transparência”, afirmaram em comunicado.

Em debate na terça-feira (12), os políticos colocaram que ainda deverá ser feito muito trabalho na área de regulamentação da Inteligência Artificial. A UE tem um projeto para criação do “Escritório de IA”, um órgão para debate do tema dentro da Comissão Europeia.

Este escritório será, na prática, o principal responsável pela aplicação da lei, solicitando informações das empresas e eventualmente até proibindo um sistema de operar na Europa.

*Com informações do Terra

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!