Comissão Europeia diz que vai analisar ajustes no chatbot Grok e não descarta sanções caso medidas não garantam proteção aos cidadãos
A Comissão Europeia informou que fará uma análise cuidadosa das mudanças anunciadas pela plataforma X em seu chatbot Grok, desenvolvido pela empresa de inteligência artificial (IA), xAI. A avaliação ocorre após o compromisso da companhia em adotar novas salvaguardas para impedir a geração de imagens sexualizadas envolvendo mulheres e crianças, um ponto sensível dentro do debate regulatório europeu sobre segurança digital.
Segundo um porta-voz da Comissão Europeia, e informações da Reuters, as autoridades acompanham de perto as medidas adicionais comunicadas pela plataforma controlada por Elon Musk. A preocupação central é verificar se os ajustes técnicos e operacionais anunciados serão suficientes para proteger usuários dentro do bloco, especialmente públicos vulneráveis.
O Grok é um chatbot integrado ao X, antiga Twitter, e faz parte da estratégia da empresa de competir no mercado de inteligência artificial generativa. Nos últimos meses, porém, a ferramenta passou a ser alvo de críticas e investigações em diferentes países após relatos de uso indevido para a criação de conteúdos sensíveis, o que reacendeu discussões sobre responsabilidade das plataformas e limites da automação.
A Comissão Europeia deixou claro que a análise não será apenas formal. Caso as mudanças implementadas não se mostrem eficazes na prática, o bloco está disposto a recorrer a todo o arsenal de fiscalização previsto no Digital Services Act (DSA), legislação que estabelece obrigações rigorosas para grandes plataformas digitais em temas como moderação de conteúdo, transparência algorítmica e mitigação de riscos sistêmicos.
O DSA entrou em vigor justamente para lidar com situações em que serviços digitais de grande alcance podem causar impactos negativos à sociedade. Entre os pontos previstos estão multas significativas e, em casos extremos, restrições operacionais. A mensagem da Comissão é que compromissos voluntários precisam se traduzir em resultados concretos, especialmente quando envolvem segurança infantil e direitos fundamentais.
Leia também: IBM e HashiCorp inauguram centro de excelência em São Paulo
O caso do Grok não se limita à União Europeia. Em outros mercados, autoridades também avaliam a atuação da ferramenta. Países asiáticos, como Filipinas, já discutem bloqueios ou restrições ao acesso ao chatbot com base em preocupações semelhantes. No Reino Unido, reguladores seguem conduzindo investigações relacionadas ao uso de tecnologias do X, incluindo possíveis violações associadas a deepfakes e outros conteúdos sensíveis.
Para analistas do setor, o episódio reforça a crescente tensão entre inovação acelerada em IA generativa e a capacidade dos marcos regulatórios de acompanhar esses avanços. Plataformas que lançam modelos cada vez mais poderosos enfrentam o desafio de equilibrar velocidade de desenvolvimento com mecanismos robustos de controle e governança.
No contexto europeu, a postura da Comissão sinaliza que ajustes pontuais podem não ser suficientes. A expectativa é de uma abordagem preventiva, com exigência de testes, monitoramento contínuo e comprovação de eficácia das medidas adotadas. Isso vale não apenas para o Grok, mas para qualquer sistema de IA integrado a plataformas de grande escala que operam no mercado europeu.
O X, por sua vez, tenta demonstrar alinhamento com as regras locais em um momento em que a empresa busca reposicionar sua imagem e ampliar receitas por meio de novos produtos baseados em inteligência artificial. A avaliação em curso pela Comissão Europeia deve servir como um termômetro importante para entender até que ponto essas iniciativas serão consideradas compatíveis com o ambiente regulatório mais rigoroso da região.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
