A omissão das plataformas alimenta tragédias reais, transformando a Internet em território hostil, especialmente para crianças e jovens
No dia 6 de maio, o deputado federal Guilherme Boulos (PSOL-SP) pediu ao Ministério Público Federal a suspensão do Discord no Brasil. A iniciativa veio depois de a Polícia Civil do Rio de Janeiro revelar que extremistas usaram a plataforma para planejar um atentado com explosivos durante o show da cantora Lady Gaga, em Copacabana, no sábado anterior. O alvo era a comunidade LGBTQIA+ presente no evento.
O deputado afirma que a plataforma tem sido instrumentalizada para crimes de ódio e violência, e pede a responsabilização das empresas de tecnologia que não colaboram com as autoridades. O Discord naturalmente respondeu que diverge da proposta, dizendo que contribui com as investigações e que possui políticas rigorosas contra o ódio. Afirmou ainda que investe em ferramentas de segurança e de moderação, e que trabalha com as autoridades para encontrar soluções, preservando a liberdade.
Essa não é a única acusação grave contra o Discord nessa temática. Entretanto, a plataforma está longe de ser a única no mundo digital a ser usada para a realização de crimes variados, que já levaram muitas pessoas à morte. Mas ela reforça a sensação de impotência de autoridades no mundo inteiro contra esses criminosos, que se valem da letargia dessas empresas na busca de soluções, por se sentirem protegidas por leis criadas há muitos anos sob a luz da liberdade que norteou o surgimento da Internet.
Criou-se assim uma eficiente armadilha para a sociedade, que corretamente quer a manutenção de sua liberdade, mas clama por segurança contra o avanço galopante das barbaridades nas redes, perpetradas por criminosos e pelas próprias empresas.
Proteger a população é uma função primordial de qualquer governo. Essa obrigação está prevista em constituições, leis e em acordos internacionais. O desafio recai em equilibrar a liberdade e proteger a sociedade de riscos e abusos, evitando tanto a censura quanto a permissividade excessiva que ameace outros direitos.
Veja esse artigo em vídeo:
O posicionamento dessas empresas segue uma lógica reativa, e não preventiva. Seu padrão é aguardar que o dano aconteça, ganhe repercussão e pressione a opinião pública. Só então movimentam-se minimamente para abafar o escândalo. Portanto, seus discursos não combinam com os seus atos insuficientes e sua ética frouxa.
Em março, a Polícia Civil de São Paulo instaurou um inquérito contra o Discord por apologia à violência digital, após a empresa ignorar um pedido emergencial para derrubar uma transmissão ao vivo de um adolescente se automutilando. Segundo a delegada Lisandréa Salvariego, do Núcleo de Observação e Análise Digital, os responsáveis pelo Discord não só deixaram de atender à solicitação, como tiveram a frieza de afirmar que não se tratava de um caso emergencial.
Leia mais: Expectativa alta e maturidade baixa expõem o dilema da IA nas empresas
Essas plataformas tornaram-se terreno fértil para o aumento do extremismo e da radicalização, vitimando principalmente jovens entre 13 e 15 anos, faixa etária particularmente vulnerável pelas intensas mudanças físicas e hormonais, busca por pertencimento e imersão no ambiente digital em detrimento das relações presenciais.
As subculturas online nocivas proliferam com incrível velocidade, onde jovens suscetíveis absorvem elementos tóxicos de ideologias como misoginia, racismo, pedofilia e xenofobia, misturando-os em uma perigosa colcha de retalhos de ódio. Os casos mais extremos desembocam em tragédias reais, como mortes por “desafios online”, como o que incita jovens a inalarem desodorantes até perderem os sentidos.
O mais frustrante é que a legislação vigente acaba protegendo essas empresas. O Marco Civil da Internet, particularmente em seu artigo 19, criado sob a inspiração dos princípios de liberdade que nortearam o desenvolvimento da Grande Rede (que são válidos e devem ser protegidos) determina que as plataformas só devem remover conteúdo após notificação judicial. Esta norma, baseada no princípio de que seriam apenas “mensageiras”, transformou-se em escudo para corporações se esquivarem de assumir responsabilidades mais amplas.
Se em algum momento histórico esses argumentos foram válidos, hoje se tornaram anacrônicos. É absurdo esperar que o Poder Judiciário tenha capacidade para monitorar as redes e produzir notificações em tempo hábil. Depender exclusivamente desse mecanismo expõe a sociedade a riscos constantes e devastadores.
Igualmente falso é o argumento de que as plataformas são meros intermediários. Elas conhecem todo o conteúdo em suas páginas, tanto que identificam e classificam material para fins comerciais, proteção de direitos autorais e reconhecimento de imagens. Exercem controle evidente sobre ele, quando bloqueiam conteúdos que violam seus termos de uso. E, mais grave, possuem agenciamento direto sobre como, quando e para quem cada conteúdo será promovido, sempre visando seus interesses.
Elas não são, portanto, neutras. Agem como um carteiro que, ao receber uma bolsa de correspondências, decidirá quais serão entregues e quando, podendo ainda copiar cartas para entregá-las seguindo seus interesses. Ainda assim, insistem no discurso do “mensageiro inocente”, para manter o status quo que beneficia seus negócios.
Diante desta realidade perturbadora, os pais precisam manter diálogo aberto e franco com os filhos sobre os perigos digitais. Devem estabelecer limites claros de uso das redes, monitorar suas atividades online e ficar atentos a mudanças comportamentais, como isolamento ou obsessão por comunidades virtuais. As escolas, por sua vez, precisam intensificar a educação digital, promovendo pensamento crítico e reconhecimento de conteúdos problemáticos.
Faltam estudos acadêmicos sobre radicalização online, legislação específica e recursos nas agências de segurança para enfrentar adequadamente o extremismo digital. Nosso aparato institucional foi concebido para um mundo pré-internet e mostra-se tragicamente inadequado para os desafios digitais contemporâneos.
Precisamos urgentemente de um pacto global. Bloquear uma única plataforma, como o Discord, seria inócuo, pois os predadores simplesmente migrariam para outros ambientes digitais. A solução exige que as empresas de tecnologia abandonem seu discurso hipócrita de impotência e passem a utilizar todo seu impressionante arsenal tecnológico para proteger seus usuários, especialmente os mais vulneráveis.
Se essas corporações não criaram o mal que prospera em suas plataformas, hoje indubitavelmente se tornaram seus principais vetores. A sociedade não pode mais aceitar que gigantes tecnológicos, que monitoram meticulosamente nossos hábitos de consumo para otimizar lucros, aleguem incapacidade técnica para impedir crimes hediondos em suas redes. A liberdade da Internet, sonhada por seus visionários fundadores, foi sequestrada pelo lucro desenfreado. Está na hora de resgatá-la.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Consultor de mídia e transformação digital, é professor no Mackenzie, ESPM, PUC e Metodista. Online desde 1987, trabalha com mídia digital desde 1995.
