Ferramenta tem sido utilizada para criar imagens íntimas falsas de mulheres e crianças sem consentimento
O Instituto de Defesa de Consumidores (Idec) pediu nesta segunda-feira (12) a suspensão do Grok, ferramenta de inteligência artificial (IA) do bilionário Elon Musk. O requerimento foi feito após usuários do X passarem a utilizar a plataforma para imagens falsas de nudez de mulheres e crianças, sem consentimento.
De acordo com o pedido, os ocorridos são “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários.”
Além disso, o Idec afirma que a ação viola a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o recém-aprovado ECA Digital.
Leia mais: Meta entra no radar regulatório da China após compra de startup de agentes de IA
O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo. Na semana passada, a deputada federal Erika Hilton (PSOL) já havia protocolado uma ação no MPF (Ministério Público Federal) após as primeiras imagens surgirem na internet.
Autoridades do Reino Unido intensificaram a pressão sobre a plataforma X para que medidas seja tomadas contra a disseminação deste tipo de imagem. A cobrança se soma a reações de outros países como França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
*com informações do G1
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Bella Winckler Matrone é repórter do IT Forum. Formada em jornalismo pela PUC-Campinas, desde 2018 se dedica a pautas ligadas à temas ESG, com forte ênfase ambiental. Possui passagens pela TV Record e assessorias de imprensa de instituições como a CUFA (Central Única das Favelas) e a Garena, com o jogo Free Fire. Atua no IT Forum, cobrindo tecnologia e inovação, desde 2024.
