Como sociedade, temos que entender os riscos associados à inteligência artificial, como deepfakes, especialmente em anos eleitorais
A Inteligência Artificial (IA) tem avançado de forma extraordinária desde o lançamento do ChatGPT, no fim de 2022. Como consequência, temos visto a grande transformação que o potencial da IA tem feito em diversos setores da sociedade e proporcionando inovações que antes eram inimagináveis. Uma das áreas que mais tem se beneficiado desse progresso é a produção de conteúdo e mídia, onde a IA agora possui a capacidade de gerar textos, imagens e vídeos extremamente realistas. Essa tecnologia, conhecida como deepfake, permite a edição ou criação de vídeos onde é possível manipular a aparência e a voz de uma pessoa, tornando difícil distinguir entre o real e o artificial.
Veja o vídeo abaixo. É a minha imagem, a minha voz, os meus trejeitos. Mas não sou eu. O vídeo foi gerado por Inteligência Artificial:
É verdade que a evolução tecnológica oferece inúmeras oportunidades para o aprimoramento, qualidade e otimização do trabalho, para o entretenimento, para a educação e até mesmo para a preservação histórica. Mas é importante discutirmos os riscos associados a esse avanço tecnológico e, principalmente, medidas para eliminá-los ou, ao menos, mitigá-los. Isso é especialmente necessário para evitar o mal uso em anos eleitorais, uma vez que a tecnologia pode ser usada para disseminar desinformação, manipular a opinião pública e comprometer a integridade dos processos democráticos.
Em um processo eleitoral, a disseminação de vídeos falsos pode ter consequências devastadoras. Deepfakes podem ser usados para difamar candidatos, atribuindo-lhes declarações ou ações que nunca ocorreram, influenciando indevidamente os eleitores. Além disso, a simples existência dessa tecnologia pode levar a um aumento do ceticismo em relação às informações verídicas, minando a confiança nas fontes de notícias e nas próprias instituições democráticas.
Leia mais: Como liderar sua equipe rumo ao sucesso na era da transformação digital
Para mitigar esses riscos, é crucial que se invista em tecnologias de detecção de deepfakes e em campanhas de conscientização pública sobre a existência e os perigos dessas manipulações. No Brasil, o Tribunal Superior Eleitoral regulamentou o uso da Inteligência Artificial nas campanhas e, dentre outras medidas, proibiu o uso de Deepfake. Mas as plataformas de mídia social também desempenham um papel vital na implementação de políticas rigorosas para identificar e remover conteúdos falsos de forma eficaz e rápida, assunto também abordado na regulamentação do TSE.
Além disso, como sociedade, devemos fortalecer a habilidade digital dos cidadãos, capacitando-os na identificação de sinais de manipulação e na verificação da veracidade das informações antes de compartilhá-las. A colaboração entre governos, empresas de tecnologia e a sociedade civil é essencial para criar um ambiente seguro e transparente, onde a tecnologia seja usada para o bem comum e não como uma ferramenta de manipulação e engano. Já abordei a importância dessa ação em um artigo publicado na MIT Technology Review Brasil.
Claro que não podemos parar a evolução da IA ou mesmo a inovação tecnológica. Contudo, é fundamental abordar os riscos associados a essa tecnologia com seriedade e transparência, especialmente seu impacto nos cidadãos, para garantir que a democracia e a integridade dos processos eleitorais sejam preservadas.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fábio Correa Xavier é Diretor do Departamento de Tecnologia da Informação (CIO) do Tribunal de Contas do Estado de São Paulo, onde lidera projetos de inovação, transformação digital e cibersegurança. É também Professor e Coordenador de Graduação e Pós-Graduação em diversas instituições de ensino, além de Colunista do MIT Technology Review, onde escreve sobre temas relacionados à tecnologia e sociedade. Possui formação acadêmica sólida, com Mestrado em Ciência da Computação pela USP, MBA em Gestão de Negócios pelo IBMEC/RJ, Especialização Network Engineering pela JICA-Japão, Pós-graduação em Lei Geral de Proteção de Dados, Direito Público, Gestão Pública e Responsabilidade Fiscal e Projetos de Redes. Possui ainda certificações internacionais em privacidade e proteção de dados, como IAPP CIPM e CDPO/BR, EXIN Privacy and Data Protection e (ISC)² CC.
Com mais de 30 anos de experiência na área de tecnologia e segurança da informação, atuou em empresas de grande porte, do setor público e privado, sendo reconhecido por diversos prêmios e homenagens, como o Prêmio de Inovação Judiciário Exponencial, o Ranking 100 Empresas + Inovadoras no Uso de TI, o Prêmio Empresa +Digital, o Prêmio Security Leaders Case do Ano, entre outros. Além da sua atuação profissional e acadêmica, dedica-se a trabalhos voluntários como Secretário Executivo do Comitê Gestor de Tecnologia, Governança e Segurança da Informação dos Instituto Rui Barbosa – IRB e Membro do Conselho de Administração do Instituto do Câncer Dr. Arnaldo.
É autor dos livros “LGPD no setor público: boas práticas para os municípios brasileiros”, “LGPD no setor público: Boas práticas para a jornada de adequação”, “Roteadores Cisco: guia básico de configuração e operação”, “Tecnologias, Inovação e outros assuntos em análise” e “Cartilha de Governança em Proteção de Dados para Municípios”. Também é autor de capítulos em livros sobre a Lei Geral de Proteção de Dados Pessoais e os Tribunais de Contas Brasileiros.
