Projeto de lei visa mitigar riscos da inteligência artificial e estabelece exigências para grandes modelos de IA; empresas como OpenAI e Google critic
A Califórnia deu um passo significativo na regulação da inteligência artificial (IA) ao aprovar, na Assembleia Estadual e no Senado, um projeto de lei que estabelece novas regras para grandes modelos de IA. A proposta exige que as empresas realizem testes de segurança em seus sistemas e divulguem publicamente os protocolos adotados para prevenir abusos. O projeto segue agora para o governador Gavin Newsom, que tem até o fim de setembro para sancionar, vetar ou permitir que a medida entre em vigor sem sua assinatura.
A iniciativa, liderada pelo senador Scott Wiener, tem como objetivo principal mitigar riscos associados ao uso de IA, como manipulações que poderiam afetar a infraestrutura crítica do estado ou a criação de armas químicas. Empresas de tecnologia, incluindo OpenAI, Google e Meta, têm se posicionado contra o projeto, argumentando que a regulamentação de segurança deveria ser de responsabilidade do governo federal e não estadual. Elas também apontam que a medida foca nos desenvolvedores de IA, deixando de lado os usuários que possam explorar os sistemas para fins maliciosos.
Leia também: Após bloqueio de contas, Starlink diz que não vai suspender X no Brasil
Wiener, no entanto, defende que a legislação é um marco importante para garantir que “inovação e segurança andem de mãos dadas”. Para ele, a Califórnia deve liderar o caminho na construção de um equilíbrio entre o avanço tecnológico e a proteção ao público. “Se quisermos que a IA seja parte do nosso futuro, precisamos garantir que seja uma tecnologia segura”, afirmou.
O projeto é parte de um conjunto mais amplo de iniciativas legislativas na Califórnia que buscam aumentar a confiança pública na IA, combater a discriminação algorítmica e proibir deepfakes em contextos eleitorais e pornográficos. Como sede de 35 das 50 principais empresas de IA do mundo, o estado é um centro de inovação tecnológica, ao mesmo tempo que busca estabelecer normas de segurança robustas para o setor.
A proposta tem recebido apoio de figuras influentes, como Elon Musk, que considerou a medida “necessária”, e da startup de IA Anthropic, que vê a regulação como essencial para evitar o uso catastrófico de sistemas avançados de IA. Por outro lado, críticos como o grupo Chamber of Progress, financiado pelo Vale do Silício, argumentam que o projeto exagera os riscos teóricos da IA, classificando-o como baseado em “fantasias de ficção científica”.
A decisão do governador Gavin Newsom é aguardada com expectativa, dado o impacto potencial da legislação na indústria de tecnologia não apenas na Califórnia, mas em todo o país, podendo servir de modelo para outras jurisdições ao redor do mundo.
*Com informações do The Guardian
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
