Ferramenta de IA da plataforma X é acusada de criar imagens explícitas sem consentimento, incluindo de crianças
Um grupo de senadores dos Estados Unidos intensificou a pressão sobre a Apple e o Google para que removam de suas lojas de aplicativos a plataforma X e seu chatbot de inteligência artificial, o Grok. A iniciativa ocorre após denúncias de que a ferramenta vem sendo utilizada para gerar imagens pornográficas de mulheres e crianças sem consentimento, o que pode violar leis e as próprias regras das app stores.
A cobrança foi formalizada em uma carta assinada pelos senadores Ron Wyden, Ben Ray Luján e Edward Markey. No documento, os parlamentares afirmam que Apple e Google precisam aplicar de forma rigorosa os termos de serviço de suas plataformas, argumentando que a distribuição de aplicativos associados à geração desse tipo de conteúdo demonstra desrespeito às políticas de moderação das próprias empresas.
Segundo os senadores, há registros de que o Grok foi usado para modificar imagens, retratando mulheres em situações de abuso sexual, humilhação e violência, além de criar representações sexualizadas de crianças. Para os autores da carta, essas práticas entram em conflito direto com as diretrizes das lojas de aplicativos. No caso do Google, as regras proíbem a criação, o envio ou a distribuição de conteúdo que facilite a exploração ou o abuso infantil. Já a Apple veta explicitamente a presença de material sexual ou pornográfico em aplicativos disponíveis na App Store.
Leia também: Por que a inovação fracassa mesmo quando faz sentido
De acordo com o TechRadar, o texto enviado às empresas também ressalta que a tolerância a esse tipo de violação colocaria em xeque o discurso público de Apple e Google sobre segurança e proteção dos usuários. Os senadores apontam que as duas companhias frequentemente defendem o controle rígido das lojas como argumento contra a abertura do ecossistema a downloads diretos, alegando que a curadoria centralizada garante uma experiência mais segura.
Além da pressão nos Estados Unidos, o caso ganhou repercussão internacional. Governos como os da Malásia e da Indonésia já bloquearam o uso do Grok em seus territórios após a controvérsia envolvendo a geração de imagens. Autoridades e legisladores no Reino Unido, na União Europeia e na Índia também passaram a acompanhar de perto o funcionamento da ferramenta.
No Reino Unido, o episódio levou o órgão regulador de mídia Ofcom a abrir uma investigação oficial para apurar possíveis violações às regras locais de segurança online. A iniciativa reforça o movimento global de maior escrutínio sobre ferramentas de IA generativa, especialmente aquelas capazes de criar ou manipular imagens realistas.
Na carta, os senadores lembram que Apple e Google já demonstraram capacidade de agir rapidamente quando consideram que um aplicativo representa risco. Como exemplo, citam a remoção de apps que permitiam reportar atividades de fiscalização migratória nos Estados Unidos, decisão tomada com base em alegações de risco a agentes públicos. Para os parlamentares, o mesmo nível de rapidez deveria ser aplicado em casos que envolvem conteúdo potencialmente ilegal e prejudicial.
A pressão política se soma a um debate mais amplo sobre responsabilidade das plataformas na era da inteligência artificial. Ferramentas capazes de gerar imagens, textos e vídeos de forma automatizada vêm ampliando desafios relacionados à moderação, consentimento e proteção de grupos vulneráveis. O caso do Grok se tornou um dos exemplos mais recentes de como esses riscos podem se materializar em escala global.
Até o momento, nem Apple nem Google anunciaram publicamente se pretendem remover os aplicativos de suas lojas. Enquanto isso, a plataforma X e o chatbot Grok seguem no centro de um debate regulatório que tende a se intensificar à medida que novas legislações e investigações avançam em diferentes países.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
