Identificar objetivamente quais práticas devem proibidas não é algo simples, escreve Luis Quiles, da NTT Data Brasil
A Inteligência Artificial (IA) tem um papel cada vez mais importante no mundo. Para assegurar que o progresso tecnológico esteja em sintonia com o desenvolvimento humano, minimizando consequências indesejadas, essa tecnologia deve ser regulada. No dia 14 de junho, a União Europeia apresentou, na última quarta-feira (14) , o “AI Act” que é, até o momento, a regulamentação mais abrangente sobre IA publicada.
O AI Act abrange diversos aspectos, incluindo a proibição de aplicações de IA nos casos em eu haja potencial para explorar vulnerabilidades de grupos específicos, que possam afetar negativamente os direitos individuais, acarretar danos físicos ou psicológicos. A legislação procura minimizar o risco de decisões assistidas por IA que possam ser errôneas, preconceituosas ou tendenciosas.
Outro ponto relevante é a classificação de “sistemas de alto risco” aos usos de IA em áreas essenciais para a sociedade, como abastecimento de água, energia, e cuidados de saúde, além de educação, emprego e justiça. Nesses casos, a EU determina um conjunto de requerimentos que tem como objetivo evitar um mau uso da IA.
Todavia, como é comum em qualquer marco regulatório, surgem desafios na aplicação prática das normas. Identificar objetivamente quais práticas devem proibidas não é algo simples, pois a definição de “impacto negativo nos direitos individuais” pode ser interpretada de diversas maneiras.
Embora os requisitos estabelecidos para sistemas de alto risco façam sentido conceitualmente, na prática, os custos de implementação podem ser um obstáculo e, em alguns casos, inviabilizar o uso da IA. A governança eficaz de dados, por exemplo, apresenta desafios devido aos custos associados para garantir representatividade da diversidade nos dados, assegurar a rastreabilidade e o monitoramento contínuo dos dados.
A regulamentação também exige supervisão humana para sistemas de alto risco. No entanto, como assegurar a eficácia dessa supervisão?
Outro aspecto controverso é a exigência de transparência em sistemas que utilizam IA. É extremamente complicado entender como a uma solução avançada de aprendizado de máquina, como a IA generativa, chega a uma determinada conclusão. Apesar de avanços em técnicas que facilitam o entendimento dos fatores influenciadores nas decisões do modelo, ainda é difícil determinar o processo exato de tomada de decisão seguido pelo modelo de aprendizado de máquina.
Leia também: 2023 marca o ano da IA na HPE, diz o CEO Antonio Neri
Adicionalmente, o AI Act trata de questões relativas à IA generativa, como a obrigatoriedade de publicar um inventário de materiais protegidos por direitos autorais utilizados no treinamento do sistema. A indústria editorial apoia essa proposta, mas desenvolvedores de tecnologia veem como impraticável.
A implementação responsável e ética dessas tecnologias é essencial. O uso inadequado da IA pode ter consequências negativas para a sociedade. Contudo, é fundamental encontrar um equilíbrio entre uma regulamentação que mitigue os riscos da IA, mas, ao mesmo tempo permita um uso responsável, capaz de trazer inúmeros benefícios para as pessoas.
A forma como a regulamentação será implementada será determinante para poder alcançar esse equilíbrio e permitir que a sociedade europeia se beneficie das vantagens da IA e, até mesmo, pode definir o futuro da Europa como potência na pesquisa de IA.
O AI Act é um marco significativo, representando um esforço para conciliar oportunidades proporcionadas pela IA com responsabilidades éticas e a proteção dos direitos dos cidadãos. É imperativo que legisladores, representantes da indústria e a sociedade engajem-se em diálogo contínuo para garantir que a legislação seja flexível, justa e em consonância com os valores humanos, evoluindo em resposta a mudanças tecnológicas e desafios emergentes.
*Luis Quiles é diretor de Inteligência Artificial da NTT DATA Brasil
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
