13 Janeiro 2026
O órgão independente de arbitragem contatou a plataforma na segunda-feira, 5 de maio, após receber "relatos muito preocupantes" sobre o uso do Grok na criação de imagens falsas de mulheres e crianças nuas. As preocupações com a inteligência artificial integrada à plataforma de Musk são globais.
A informação é de Patricia Reguero Ríos, publicada por El Salto, 12-01-2026.
A Ofcom, agência de proteção ao consumidor do Reino Unido, iniciou uma investigação formal contra a X na segunda-feira, com base na Lei de Segurança Online. A investigação determinará se a X cumpriu sua obrigação de proteger os cidadãos britânicos de conteúdo ilegal, explicou a Ofcom.
O anúncio surge após "relatos muito preocupantes sobre o uso da conta do chatbot Grok AI na plataforma X para criar e compartilhar imagens de pessoas nuas", o que poderia constituir abuso de imagens íntimas ou pornografia, e imagens sexualizadas de crianças, o que poderia configurar material de abuso sexual infantil, afirma esta agência responsável, entre outras coisas, por monitorar os padrões de conteúdo na televisão e no rádio, protegendo telespectadores e ouvintes.
A Ofcom alerta que tomará todas as medidas que julgar apropriadas para impedir que os cidadãos acessem conteúdo ilegal.
A Ofcom explica que contatou a empresa X na segunda-feira, 5 de janeiro, com urgência, e estabeleceu um prazo para que a empresa explicasse as medidas que havia tomado para cumprir sua obrigação de proteger seus usuários no Reino Unido. A empresa respondeu dentro do prazo, que terminou em 9 de janeiro. Em seguida, foi realizada uma avaliação das evidências.
A investigação deverá determinar se a X violou as suas obrigações legais ao abrigo da Lei de Segurança Online, em particular, avaliando o risco de pessoas no Reino Unido visualizarem conteúdo ilegal no Reino Unido e realizando uma avaliação de risco atualizada antes de implementar alterações significativas no seu serviço. Além disso, a Ofcom tomará todas as medidas que considerar adequadas para impedir que pessoas no Reino Unido visualizem conteúdo ilegal no Reino Unido, incluindo imagens íntimas não consensuais e material de abuso sexual infantil.
Medidas específicas para reparar danos e multas de até 18 milhões de libras esterlinas ou 10% da receita global estão entre as possíveis consequências da investigação, alertam. Além disso, nos casos mais graves de descumprimento contínuo, poderão solicitar uma ordem judicial para "medidas de interrupção das atividades comerciais".
Confinamento na Indonésia gera preocupação global
da AI Forensics concluiu que 53% das imagens geradas por essa IA, desenvolvida pela rede social de Elon Musk, X, continham pessoas vestindo roupas mínimas. Dessas, 81% eram mulheres e 2% retratavam pessoas que aparentavam ter 18 anos ou menos. Além disso, 6% envolviam figuras públicas. Entre suas principais descobertas, o estudo indica que o Grok também foi usado para gerar material de propaganda nazista e do Estado Islâmico.
Grok é um assistente de inteligência artificial desenvolvido pela AI, empresa de IA de Elon Musk, e opera dentro da plataforma X. Ele foi projetado para responder perguntas e executar tarefas. Lançado em novembro de 2023, foi apresentado desde sua concepção como um assistente de IA com menos restrições éticas em relação à geração de conteúdo.
A Irlanda e a França anunciaram medidas, a Comissão Europeia ordenou que a X armazenasse imagens geradas com o Grok para abrir uma investigação, e a Indonésia bloqueou a ferramenta.
A publicação do relatório colocou vários países em alerta. Irlanda e França anunciaram que tomariam medidas. Neste domingo, a Indonésia anunciou o bloqueio do Grok. "O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", afirmou o ministro das Comunicações e Mídia Digital do país asiático, Meutya Hafid. Além disso, a Comissão Europeia anunciou na última quinta-feira que ordenou à rede social X que mantenha toda a sua documentação interna relativa ao Grok até 2026, como parte da investigação em curso sobre a política da plataforma contra conteúdo ilegal.
Na Espanha, o Ministério da Juventude e da Infância enviou uma solicitação à Procuradoria-Geral da República após tomar conhecimento do relatório. A ministra Sira Rego afirmou que o material em questão constitui "violência sexual contra menores", explicando que se trata de "uma prática que não pode ser entendida como um uso neutro da tecnologia". Ela solicitou, portanto, que a Procuradoria-Geral da República investigasse se esse uso do Grok poderia configurar o crime de pornografia infantil, conforme definido no artigo 189 do Código Penal, bem como um crime contra a integridade moral, conforme definido no artigo 173.
Leia mais
- Senador apresenta projeto que combate pornografia fake nos EUA
- “Nas mãos erradas, a IA pode causar mais danos do que outras tecnologias anteriores”. Entrevista com Ayona Datta
- “Violência e misoginia nas plataformas web: assim triunfa a cultura do estupro”. Entrevista com Lucia Bainotti e Silvia Semenzin
- Multa de 2 mil euros aos pais de um menor que criou imagem de colega nua com inteligência artificial
- Sánchez endurece resposta ao genocídio de Israel em Gaza em meio à inação da Europa
- Combate à violência e à exploração sexual de mulheres e crianças: a hora de agir é agora. Entrevista com Luciana Temer
- Pornografia com inteligência artificial expõe adolescentes e ameaça comunidade escolar
- Elon Musk lançou a Grokipedia, uma enciclopédia online escrita por inteligência artificial
- Pensar a IA eticamente é refletir sobre o tipo de humanidade que queremos construir para o futuro. Entrevista especial com Steven S. Gouveia
- "Em tempo de guerra, os direitos das mulheres são os primeiros a serem desrespeitados". Entrevista com Nadia Murad
- Não é possível pausar o desenvolvimento de inteligência artificial, dizem especialistas
- Aliciamento sexual de crianças cresce 300% na internet, mas Portugal sabe pouco sobre o tema
- Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
- DeepSeek e a Transformação da Inteligência Artificial. Artigo de Lucia Santaella, Fabiana Raulino e Kalynka Cruz
- Uma proibição de regulamentações sobre inteligência artificial? Sim, isso quase aconteceu. Artigo de Mary Graw Leary
- As grandes empresas de tecnologia dos EUA investirão US$ 115 bilhões em pesquisa e desenvolvimento até 2025, mais da metade de todo o orçamento da UE
