Pesquisa alerta para os riscos políticos de IAs que adaptam argumentos ao perfil do interlocutor e influenciam opiniões com alta eficácia
A inteligência artificial (IA) já rivaliza, e em alguns casos supera, os humanos quando o assunto é convencer alguém em um debate. Essa é a conclusão de um estudo conduzido por pesquisadores do Instituto Federal Suíço de Tecnologia de Lausanne, publicado na revista Nature Human Behaviour. O trabalho acende um alerta sobre os potenciais impactos da IA na manipulação de opinião pública, especialmente em contextos eleitorais.
Segundo o pesquisador Francesco Salvi, autor principal do estudo, essas tecnologias já podem ser usadas para influenciar eleitores indecisos com mensagens personalizadas que soam autênticas. De acordo com ele, em conversa com o The Guardian, seria ingênuo pensar que atores mal-intencionados ainda não começaram a explorar esse tipo de ferramenta para disseminar desinformação e propaganda injusta.
O experimento envolveu 900 participantes divididos em grupos que debateram temas variados com oponentes humanos e com o modelo de linguagem GPT-4.
Leia também: “A IA irá seguir os dados e não o contrário”, afirma Michael Dell
Os tópicos iam de questões menos polêmicas, como o uso de uniformes escolares, até temas sensíveis como o aborto. Em metade dos casos, os debatedores, humanos ou IA, receberam informações pessoais sobre seus oponentes, incluindo idade, gênero, etnia e inclinação política.
Os resultados mostraram que, de maneira geral, o ChatGPT-4 foi tão convincente quanto os humanos. Mas, quando teve acesso aos dados pessoais dos participantes, o desempenho da IA foi superior em 64% das disputas. Essa eficácia foi especialmente evidente em tópicos que não despertavam opiniões intensas.
Mais do que a argumentação lógica, o que fez a diferença foi a capacidade da IA de moldar os argumentos de forma personalizada. “É como debater com alguém que sabe exatamente como te provocar, mas de um jeito que faz sentido para você”, explicou Salvi.
O estudo também revelou que a IA tende a usar uma linguagem mais estruturada e analítica do que os humanos, mas isso, por si só, não explicaria sua superioridade em persuadir. O fator decisivo parece ser a personalização do discurso algo que pode se tornar ainda mais potente se a IA tiver acesso a informações mais detalhadas, como dados de redes sociais.
Especialistas ouvidos pelo The Guardian alertam para os riscos. O professor Sander van der Linden, psicólogo social da Universidade de Cambridge, disse que o estudo reabre o debate sobre o uso de modelos de linguagem para manipulação em massa.
Já o pesquisador Michael Wooldridge, da Universidade de Oxford, apontou que, embora haja aplicações positivas como chatbots de saúde, os usos maliciosos são mais numerosos, como o recrutamento de jovens por grupos extremistas.
Para Wooldridge, a sociedade precisa agir com urgência. “Estamos diante de uma tecnologia que pode ser amplamente abusada. Legisladores e reguladores precisam se antecipar, ou passarão a vida correndo atrás do prejuízo.”
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
