JACARTA — A Indonésia bloqueou temporariamente o acesso ao Grok, chatbot de inteligência artificial da xAI (empresa de Elon Musk) integrado à rede social X, após preocupações com a geração e circulação de imagens sexualizadas e deepfakes sem consentimento. Segundo autoridades do país, o conteúdo representa violação grave de direitos e risco à segurança digital, e o governo convocou representantes do X para esclarecimentos.

De acordo com a Reuters, a Indonésia é o primeiro país a adotar esse tipo de bloqueio contra o Grok. A medida ocorreu após pressão internacional e investigações envolvendo o uso da ferramenta para criar imagens manipuladas, incluindo casos considerados ilegais por reguladores e governos em diferentes regiões.

xAI restringe recursos de imagem

Ainda segundo a Reuters, em resposta à repercussão global, a xAI passou a limitar os recursos de geração e edição de imagens do Grok, concentrando o acesso principalmente em usuários pagantes, enquanto diz trabalhar em correções e salvaguardas.

Pressão de reguladores na Europa e nos EUA

O caso também avançou em outras frentes:

• A Comissão Europeia determinou que o X preserve documentos relacionados ao Grok por mais tempo enquanto avalia conformidade com regras do bloco.
• Nos Estados Unidos, senadores democratas pediram que Apple e Google removam o X e o Grok das lojas de aplicativos, citando a disseminação de imagens íntimas manipuladas sem consentimento.
• No Reino Unido, a Ofcom fez contato urgente com o X para avaliar possíveis violações ligadas ao uso do Grok para gerar imagens sexualizadas.

O episódio amplia o debate global sobre a responsabilidade de plataformas e desenvolvedores de IA no combate a abusos e conteúdos ilegais gerados por ferramentas de inteligência artificial.