Algoritmos de moderação de conteúdo da rede social podem afetar mais postagens de mulheres do que homens
O Instagram anunciou este mês uma nova política de moderação de conteúdo para reduzir a disseminação de postagens inadequadas. Com isso, a rede social quer criar obstáculos para a promoção e divulgação de conteúdo considerado pela plataforma como violento ou sexualmente sugestivo.
Embora a política não elimine esse tipo de postagem da plataforma, evitará que certas imagens apareçam na guia “Explorar” do aplicativo. A preocupação de alguns usuários, contudo, é de terem suas contas ocultadas dentro da ampla classificação de “sexualmente sugestivo”.
O líder do produto responsável pela aba Discovery do Instagram, Will Ruben, esclareceu que essas novas diretrizes serão implementadas com ajuda de algoritmos de aprendizado de máquina. As equipes de moderação de conteúdo da rede social treinarão o sistema para identificar posts inadequados.
As ressalvas quanto à mudança esbarram na grande possibilidade de uma classificação sexista do que é “sexualmente sugestivo”, podendo afetar desproporcionalmente as mulheres, incluindo artistas e influenciadoras que usam seus corpos como forma de expressão, mulheres negras e ativistas trans.
Em entrevista ao site OneZero, o professor da Escola de Computação da Universidade de Utah (EUA), evidencia a complexidade de fazer com que um algoritmo aprenda um rótulo vago e sujeito a debate, como “sexualmente sugestivo”. Segundo ele, isso pode significar mais confusão do que clareza.
É provável que o algoritmo seja informado por um conjunto de padrões conflitantes estipulados pela equipe de moderação. Algo que já aconteceu recentemente com a moderação de conteúdo que não reconheceu vídeos transmitidos ao vivo do ataque à mesquita da Nova Zelândia como conteúdo violento.
Dessa maneira, há sinais de que o algoritmo do Instagram seja moldado por uma ideia tendenciosa de indecência, sendo aplicado em um nível diferente para mulheres e homens. Especialistas analisam que a sociedade historicamente trata erroneamente os corpos das mulheres como algo lascivo, o que inclinaria a uma categorização como inadequação. Isso poderia ainda afetar desproporcionalmente determinados tipos de mulheres, cujos corpos são frequentemente rotulados e não se encaixam nos padrões.
O Instagram, até agora, recusou-se a fornecer mais detalhes de como os algoritmos serão treinados, acrescentando: “Queremos ser transparentes com a comunidade sobre essas diretrizes e estamos pensando na melhor maneira de fazer isso”.
