A 404 Media testou contornos de proteção do Designer com variações de nomes de famosos e descrições vagas produziram conteúdo sugestivo
Após denúncias de utilização indevida da ferramenta Designer, da Microsoft, para gerar imagens sexuais não consensuais de celebridades, como Taylor Swift, a empresa anunciou medidas adicionais de proteção. Um porta-voz da Microsoft afirmou por e-mail à 404 Media, que enviou um relatório denunciando o uso indevido da ferramenta, e que estão “investigando esses relatórios e tomando medidas apropriadas para abordá-los”.
De acordo com testes realizados pela 404 Media e com as mensagens encontradas no 4chan e no canal do Telegram, as técnicas utilizadas pelos usuários para gerar as imagens de Taylor Swift já não são eficazes. Antes das imagens em IA da cantora viralizarem, na semana passada, o Designer impedia a geração de imagens com instruções de texto específicas, como “Taylor Swift nua”.
Leia mais: dia Internacional da Proteção de Dados: regulação de IA é chave?
No entanto, usuários desses canais descobriram maneiras de contornar essas proteções, fazendo pequenas alterações nos nomes das celebridades e descrevendo imagens sem termos explícitos, mas que resultavam em imagens sugestivas. A 404 Media verificou essas vulnerabilidades na quinta-feira, antes das mudanças da Microsoft, e constatou que elas foram corrigidas após a publicação do artigo.
O CEO, Satya Nadella, disse na sexta-feira em entrevista à CNBC, que é responsabilidade da empresa adicionar mais proteção às suas ferramentas de IA para evitar a criação de conteúdo prejudicial. Ainda assim, a investigação não confirmou se as imagens da cantora foram feitas com a ferramenta Designer.
O Telegram, onde as imagens foram compartilhadas, está enfrentando dificuldades após as mudanças implementadas pela Microsoft, embora usuários relatem encontrar novas formas de contornar as proteções. Usuários no 4chan já relatam descobrir novas brechas para explorar o Bing e o Designer, segundo o 404 Media.
O canal do Telegram em questão não foi divulgado, mas o 404 Media afirma que ele persiste em compartilhar imagens sexuais geradas por IA, provenientes de várias fontes, sobretudo com enfoque na ferramenta gratuita da Microsoft.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
