Privacidade em risco? Meredith Whittaker critica IA agêntica no SXSW

A presidente da Signal, Meredith Whittaker, alertou sobre os riscos que a inteligência artificial agentica representa para a privacidade e segurança dos usuários. Durante sua participação no festival SXSW, em Austin, Texas, Whittaker criticou a crescente adoção desse modelo de IA, que executa tarefas em nome dos usuários, comparando-o a “colocar o cérebro em um frasco”.

A promessa dos agentes de IA é simples: facilitar a vida digital ao automatizar tarefas como pesquisar eventos, comprar ingressos, agendar compromissos e notificar contatos. No entanto, para desempenhar essas funções, esses sistemas precisam acessar uma ampla gama de dados sensíveis, como informações financeiras, calendários e mensagens privadas.

Leia também: Contra o medo, destemor: Ana Cerqueira e a luta por espaço na segurança digital

Whittaker destacou que essa interconectividade exige permissões semelhantes às de administrador do sistema, permitindo que a IA acesse múltiplos bancos de dados. “Isso precisa acontecer de maneira centralizada, possivelmente em servidores na nuvem, onde os dados seriam processados e enviados de volta ao usuário”, explicou. Segundo ela, essa configuração amplia as vulnerabilidades, tornando os dados mais suscetíveis a vazamentos e abusos.

A integração desses agentes com aplicativos de mensagens como o Signal representa um risco adicional. Para enviar mensagens em nome do usuário, a IA precisaria acessar diretamente o aplicativo e os dados ali contidos. Isso, na prática, poderia comprometer a privacidade das conversas, um dos principais pilares da Signal.

Whittaker também criticou a indústria da IA, que historicamente se baseia na coleta massiva de dados, perpetuando o paradigma de que “mais é melhor”. Essa lógica, segundo ela, está criando uma falsa sensação de segurança em torno dos agentes inteligentes, enquanto, na realidade, aprofunda os desafios de proteção de dados.

Ao fim de sua fala, a presidente da Signal enfatizou que o entusiasmo em torno da IA agêntica pode estar cegando o público para os riscos reais. “Estamos correndo atrás de um gênio mágico que promete resolver nossas tarefas diárias, mas, no caminho, estamos abrindo mão de nossas barreiras de segurança e privacidade”, concluiu.