O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) apontaram que as medidas da plataforma X para coibir o uso indevido da ferramenta Grok ainda são insuficientes. A inteligência artificial continua a gerar e circular imagens de pessoas em contexto de sexualização sem autorização.
Falhas persistem e evidências são fracas
As três entidades haviam recomendado ao X a adoção de procedimentos para identificar e remover conteúdos indevidos gerados pelo Grok. Em resposta, a plataforma alegou ter removido milhares de publicações e suspendido contas, além de implementar medidas de segurança. Contudo, MPF, ANPD e Senacon concluíram que as informações não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento eficazes. Testes preliminares confirmam que as falhas persistem.
Novas exigências e sanções
Diante da persistência do problema, os órgãos determinaram que o X implemente imediatamente ações efetivas para impedir a produção de conteúdo sexualizado ou erotizado envolvendo crianças, adolescentes e adultos sem consentimento, gerado pelo Grok. Além disso, exigiram informações detalhadas sobre as providências já adotadas pela empresa.
Ações específicas de cada órgão
ANPD, MPF e Senacon atuam de forma coordenada, cada uma com um procedimento administrativo em aberto contra a plataforma X, conforme suas competências:
ANPD
A Agência Nacional de Proteção de Dados exige que os recursos para impedir o uso indevido do Grok abranjam todas as suas versões, planos e modalidades disponíveis.
MPF
O Ministério Público Federal ordenou o envio de relatórios mensais a partir de fevereiro. Esses documentos devem detalhar as ações do X para coibir a produção de deepfakes com crianças, adolescentes e adultos sem autorização, incluindo o número de postagens removidas e contas suspensas por período. O MPF também ressaltou a falta de transparência da plataforma.
Senacon
A Secretaria Nacional do Consumidor, por meio de medida cautelar, cobrou a comprovação das providências para conter os riscos e sanar os problemas identificados. Adicionalmente, solicitou um relatório métrico detalhado com dados quantitativos sobre a identificação, moderação e remoção de conteúdos sexualizados relacionados ao Grok, incluindo prazos, critérios técnicos e medidas corretivas adicionais.
Consequências para a plataforma X
Caso as determinações não sejam cumpridas, a plataforma X poderá ser multada diariamente. A empresa e os envolvidos podem responder por crime de desobediência e serem alvo de medidas investigatórias mais severas, além de ações judiciais.
