Drops recebeu informações da Alana. Alana e Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes apresentam denúncia à ANPD e ao MPF sobre a inteligência artificial Grok por manipulação de imagens sexualmente explícitas envolvendo crianças e adolescentes.
O Instituto Alana e a Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes denunciaram a ferramenta de inteligência artificial Grok, vinculada à plataforma X, junto à Agência Nacional de Proteção de Dados (ANPD) e ao Ministério Público Federal (MPF). O foco da denúncia é o funcionamento atual da ferramenta, que demonstra capacidade concreta e operacional de produzir conteúdos de exploração sexual de crianças e adolescentes com alto grau de realismo, em larga escala e sem obstáculos técnicos relevantes.
Este cenário expõe crianças e adolescentes a riscos graves, previsíveis e evitáveis, incompatíveis com os deveres de proteção, prevenção, informação e segurança exigidos pelo ordenamento jurídico brasileiro. Dessa forma, a ação busca contribuir para o fortalecimento da regulação, da fiscalização e da responsabilização, de modo a assegurar que o desenvolvimento e a utilização de tecnologias respeitem plenamente os direitos humanos e a proteção integral de crianças e adolescentes.
Um dos elementos mais graves apontados na denúncia é o fato de a empresa ter mantido a funcionalidade da ferramenta acessível a usuários pagantes, incorporando o risco de violação de direitos ao próprio modelo de negócios. Na avaliação do Instituto Alana, esse desenho cria incentivos econômicos diretos para a continuidade das violações, ao permitir que a exploração sexual infantil seja tratada como um efeito colateral tolerável — e potencialmente lucrativo — da inovação tecnológica, em frontal incompatibilidade com o princípio da proteção integral e da prioridade absoluta dos direitos de crianças e adolescentes.
Para Lucas Lopes, secretário executivo da Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes, o caso revela um problema estrutural que exige resposta estatal imediata. “Ferramentas de inteligência artificial não podem operar à margem da lei nem tratar a violação de direitos de crianças e adolescentes como um efeito colateral tolerável da inovação. Quando uma tecnologia permite a geração sistemática de imagens sexualizadas envolvendo crianças, estamos diante de um risco sistêmico que exige uma resposta firme, imediata e estruturante do Estado.”
A denúncia parte de uma preocupação central com a proteção integral de crianças e adolescentes no ambiente digital, conforme previsto na Constituição Federal, no Estatuto da Criança e do Adolescente (ECA) e na Lei Geral de Proteção de Dados Pessoais (LGPD), que estabelece regras específicas e reforçadas para o tratamento de dados pessoais de crianças e adolescentes. Mais recentemente, o chamado ECA Digital (Lei nº 15.211/2025) veio reforçar a responsabilidade de proteção do público infantojuvenil na esfera digital.
“O caso do Grok não é um episódio isolado ou um erro pontual de funcionamento. Ele revela uma falha estrutural de governança no uso de inteligência artificial, que expõe crianças e adolescentes a riscos graves, previsíveis e evitáveis. Não é aceitável que plataformas tratem a exploração sexual infantil como uma externalidade tolerável da inovação tecnológica. O que vemos no caso do Grok é a priorização da experimentação e do modelo de negócios em detrimento de direitos fundamentais de pessoas em desenvolvimento”, afirma Júlia Mendonça, advogada de Digital do Alana.
Diversos países já adotaram medidas firmes contra a inteligência artificial Grok, incluindo investigações formais e suspensões da ferramenta, como Reino Unido, Indonésia, Malásia, Itália, França e a União Europeia.
Descumprimento de garantias apresentadas pela plataforma em 2024
Um elemento central da denúncia apresentada pelo Instituto Alana é a conexão entre o cenário atual e um procedimento fiscalizatório instaurado pela ANPD em 2024 em relação à mesma ferramenta Grok. À época, a Agência apurou o uso de dados pessoais para o treinamento da ferramenta e considerou atendida a garantia de que não haveria tratamento de dados de crianças e adolescentes, com base exclusivamente em declarações unilaterais prestadas pelo encarregado da empresa responsável.
“O que se observa agora, um ano depois, é que a mesma IA é capaz de gerar conteúdos de exploração sexual infantil com alto grau de realismo e sem obstáculos técnicos relevantes, mostrando que compromissos meramente declaratórios não são suficientes quando se trata de tecnologias de alto risco”, reforça Júlia Mendonça.
Além disso, os dados públicos mais recentes evidenciam a magnitude e a recorrência do risco. Em 2024, a plataforma X ocupou o 2º lugar no ranking entre 6.371 domínios com denúncias registradas no Brasil, figurando de forma recorrente entre os ambientes digitais associados a violações graves de direitos humanos. No recorte específico de material de abuso e exploração sexual de crianças e adolescentes (CSAM), foram registradas 2.229 URLs denunciadas na plataforma apenas em 2024.
“Esse caso demonstra a importância da plena implementação do ECA Digital e de todas as normas de proteção à infância e à adolescência no ambiente digital. Com a aproximação do início da vigência da nova lei e passados cinco anos da publicação do Comentário Geral nº 25 do Comitê dos Direitos da Criança da ONU, é fundamental que o sistema de garantia de direitos cobre das empresas a efetivação da proteção integral e da absoluta prioridade dos direitos de crianças e adolescentes, sob pena de danos graves e, muitas vezes, irreversíveis”, afirma Ana Claudia Cifali, coordenadora jurídica do Instituto Alana.
A denúncia também ressalta a dimensão permanente dos danos causados. “O caráter automatizado e escalável da tecnologia amplia o alcance e a irreversibilidade dos danos, dificulta a remoção do conteúdo ilícito e compromete a confiança pública nas plataformas digitais, sobretudo quando inexistem salvaguardas eficazes ou quando há incentivo econômico associado à utilização dessas funcionalidades”, destaca o documento.
Entre as recomendações à ANPD e ao MPF para uma resposta firme a este caso estão:
- instauração de investigação e procedimento administrativo de fiscalização;
- suspensão preventiva das funcionalidades do sistema Grok em território nacional;
- determinação de deveres de transparência ativa e comunicação obrigatória aos usuários;
- determinação de auditoria técnica independente sobre o tratamento de dados pessoais;
- avaliação de adoção de medidas complementares de conformidade e articulação institucional.
O Instituto Alana entende que sua atuação neste caso se insere em seu compromisso institucional com a defesa dos direitos da criança e do adolescente, especialmente frente aos riscos associados ao uso e à governança de tecnologias digitais e sistemas de inteligência artificial.
Sobre o Alana
O Alana é um ecossistema de organizações de impacto socioambiental que promove e inspira um mundo melhor para as crianças. Um mundo sustentável, justo, inclusivo, igualitário e plural. Um mundo que celebra e protege a democracia, a justiça social, os direitos humanos e das crianças com prioridade absoluta. Um mundo que cuida dos seus povos, de suas florestas, dos seus mares, do seu ar. O Alana é um ecossistema de organizações interligadas, interdependentes, de atuação convergente, orientadas pelos Objetivos de Desenvolvimento Sustentável da ONU. O encontro de um Instituto, uma Fundação e um Núcleo de Negócios de Entretenimento de Impacto. Um combinado único de educação, ciência, entretenimento e advocacy que mistura sonho e realidade, pesquisa e cultura pop, justiça e desenvolvimento, articulação e diálogo, incidência política e histórias bem contadas.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.