Elon Musk atribui responsabilidade ao usuário, mas xAI afirma que tem tolerância zero a qualquer forma de exploração sexual sem consentimento"
A xAI, empresa de inteligência artificial (IA) de Elon Musk, anunciou nesta quarta-feira (14/01) uma mudança em suas políticas de geração de imagem. Após a repercussão mundial e pressão de diversos governos, a plataforma decidiu desativar a possibilidade de os usuários utilizarem o chatbot Grok para criar imagens sexualizadas de pessoas reais.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis”, publicou a empresa em sua rede social, X.
A companhia também bloqueou o Grok de gerar “imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes”, mas apenas em países onde isso é ilegal. Segundo a companhia, as mudanças se aplicam a todos os usuários do X, incluindo assinantes premium. Uma limitação já havia sido aplicada na semana passada, mas apenas para usuários pagantes.
A empresa afirmou que os assinantes do serviço premium do X ainda podem usar o Grok para editar e criar outras imagens geradas por IA que estejam em conformidade com os termos de serviço da plataforma.
Leia mais: Investidores processam Oracle por perdas ligadas à expansão de infraestrutura de IA
As mudanças técnicas no Grok ocorrem após diversos governos e reguladores em todo o mundo condenaram a funcionalidade. Só esta semana, o gabinete do procurador-geral da Califórnia abriu uma investigação contra a xAI e vários países europeus abriram apurações semelhantes sobre a xAI e o Grok, incluindo França e Reino Unido.
No Brasil, o Instituto de Defesa de Consumidores (Idec) pediu nesta segunda-feira (12), a suspensão do Grok. De acordo com o pedido da instituição, a permissão concedida pela plataforma seria “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários.”
Até o momento, Musk defendeu a tecnologia, atribuindo a responsabilidade aos usuários por seu uso indevido. Ainda assim, a empresa afirmou na publicação que tem “tolerância zero a qualquer forma de exploração sexual infantil, nudez sem consentimento e conteúdo sexual indesejado”.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Bella Winckler Matrone é repórter do IT Forum. Formada em jornalismo pela PUC-Campinas, desde 2018 se dedica a pautas ligadas à temas ESG, com forte ênfase ambiental. Possui passagens pela TV Record e assessorias de imprensa de instituições como a CUFA (Central Única das Favelas) e a Garena, com o jogo Free Fire. Atua no IT Forum, cobrindo tecnologia e inovação, desde 2024.
