Abuso de crianças em deepfakes de IA no Japão desencadeia investigação policial e debate jurídico

Uma crise crescente nas escolas japonesas

Polícias de todo o Japão estão a receber mais relatórios de que colegas de turma estão a usar inteligência artificial para criar deepfakes sexuais de menores, frequentemente recolhendo fotografias de eventos escolares, álbuns de conclusão e conversas privadas em grupo. As vítimas são tipicamente alunos do ensino secundário, embora também tenham sido alvo crianças do ensino primário. Em vários casos, os perpetradores são próprios menores que acederam a sites de geração de imagens ou a aplicações simples para smartphone para produzir falsificações convincentes e explícitas e divulgá-las nos seus grupos de pares.

As autoridades afirmam que foram registadas mais de 100 consultas e relatórios sobre imagens sexuais falsas de menores no último ano. Dezessete dos casos conhecidos envolviam imagens derivadas de eventos escolares ou fotografias do anuário escolar. As vítimas frequentemente suspeitam de alguém que conhecem. A polícia documentou mesmo assédio entre pares do mesmo sexo, com o objetivo de intimidar ou humilhar em vez de obter prazer sexual. Num caso na região de Tokai, no centro do Japão, um aluno do ensino secundário foi remetido para o Ministério Público por suspeita de difamação depois de ter criado uma imagem falsa nua de uma colega de turma e a partilhado entre amigos.

O aumento insere-se numa tendência global mais ampla. Uma empresa de segurança dos EUA rastreou pelo menos 95.820 vídeos deepfake online em 2023 e reportou que 98 por cento envolviam pornografia. Ferramentas fáceis de usar permitem agora ao utilizador escrever um prompt, carregar uma face ou tentar remover roupa de uma fotografia com um só toque. Essa acessibilidade está a colidir com a dinâmica social das escolas e com o enorme volume de fotografias pessoais que as crianças publicam ou partilham, frequentemente sem perceberem como essas imagens podem ser utilizadas contra elas.

Como os adolescentes criam deepfakes com fotografias do dia a dia

As ferramentas atuais dividem-se em algumas categorias. Algumas aplicações tentam «desnudar» uma fotografia, fabricando um corpo por baixo da roupa. Outras trocam a rosto de uma fotografia escolar por uma de um ator adulto. Sites de IA generativa também podem produzir imagens explícitas apenas a partir de prompts de texto, podendo depois ser ajustados para se assemelharem a uma pessoa específica com algumas fotografias de referência. Estes sistemas foram concebidos para sintetizar novas imagens a partir de padrões aprendidos em conjuntos de dados massivos, e podem funcionar em dispositivos de consumo, o que reduz as barreiras para o mau uso e torna a deteção mais difícil para escolas, famílias e forças da ordem.

Porque é difícil processar os casos

O principal diploma japonês que aborda imagens de abuso sexual infantil, a Lei sobre Regulamentação e Punição de Atos Relativos à Prostituição Infantil e ao Pornografia Infantil, foi redigido para proteger crianças reais captadas em imagens reais. Isso cria uma zona cinzenta para os falsos criados por IA. Quando a imagem é sintética, mesmo que utilize o rosto ou a semelhança de uma criança real, o percurso legal é menos claro. A polícia adaptou-se recorrendo a outras leis, incluindo difamação e determinadas ordenanças locais, para perseguir casos sempre que possível. A abordagem é fragmentada e sobrecarrega as vítimas e as famílias com a necessidade de detetar o abuso e apresentar queixas rapidamente.

O que a polícia está a fazer agora

A Agência Nacional de Polícia começou a examinar cerca de dez sites e aplicações de geração de imagens que são especialmente populares entre alunos do ensino secundário. Os investigadores planeiam utilizar os resultados para apoiar investigações criminais e desenvolver programas educativos para jovens, incluindo aulas de prevenção da delinquência que explicam porque criar ou partilhar tais imagens pode constituir um crime e um dano grave para os colegas.

Altos responsáveis alertam que o âmbito do abuso é muito maior do que os casos reportados sugerem. Após analisar queixas recentes, um alto responsável policial afirmou que os incidentes conhecidos provavelmente representam uma pequena fração da atividade real, uma vez que muitas vítimas não se manifestam.

A zona cinzenta legal no Japão

Juristas japoneses afirmam que o quadro do país não acompanhou a IA generativa. Sob as regras atuais, se o Ministério Público não conseguir demonstrar que foi representada uma criança real, ou que uma criança real pode ser claramente identificada, um deepfake pode ficar fora do regime nacional de material de abuso sexual infantil. Essa lacuna contrasta com o dano muito real que as vítimas sofrem quando os seus rostos ou nomes são associados a fabricações explícitas que se espalham em conversas de grupo ou pelas redes sociais.

Takashi Nagase, advogado e professor da Universidade de Kanazawa que já aconselhou sobre políticas de internet, defende que a distinção entre imagens reais e sintéticas já não se ajusta à forma como a tecnologia é utilizada.

A lei atual foi concebida para proteger crianças reais, mas a IA generativa difuminou a fronteira entre o real e o falso.

Algumas autarquias locais começaram a agir. A Prefeitura de Tottori reviu a sua ordenança em 2024 para proibir explicitamente a criação de imagens falsas sexualmente explícitas usando fotografias de crianças. Os defensores das vítimas acolhem os passos locais, mas afirmam que é necessária legislação nacional para que a aplicação da lei não varie entre jurisdições nem falhe quando as imagens estão armazenadas em servidores estrangeiros ou partilhadas anonimamente. Um grupo de trabalho do governo central discutiu o uso da internet pelos jovens e possíveis medidas para o abuso de IA, embora os progressos tenham sido lentos.

Masaki Ueda, professor associado de direito penal da Universidade de Kanagawa que estuda regulamentações de obscenidade, afirma que o enquadramento legal deve refletir o dano real à privacidade e ao bem-estar psicológico das crianças cuja semelhança é mal utilizada.

Se imagens falsas sofisticadas se espalharem online, isso viola a privacidade das crianças cujas fotografias são mal utilizadas, mesmo que sejam falsas. O peso psicológico é significativo, pelo que as imagens deepfake devem ser tratadas de forma semelhante à pornografia infantil e devem ser consideradas regulamentações legais.

A tecnologia que alimenta o abuso

Os deepfakes são gerados por modelos de aprendizagem automática treinados para sintetizar imagens realistas. Duas famílias de ferramentas dominam. Os métodos de troca de rosto alinham e fundem o rosto de um alvo num vídeo ou fotografia existente. Os sistemas texto-para-imagem, frequentemente chamados modelos de difusão, geram uma imagem completa do zero a partir de um prompt escrito e, se fornecidos, um pequeno conjunto de rostos de referência. Os delinquentes por vezes afinam um modelo local com um punhado de fotografias extraídas do perfil de redes sociais de um alvo ou retiradas de um álbum escolar, o que faz o resultado parecer de forma inquietante com a criança.

Estes avanços complicam a deteção e a resposta. Se a imagem for inteiramente sintética, não existe fotografia original com que comparar. Marcas de água e filtros de deteção de IA existem, mas são inconsistentes e podem ser removidos. A Internet Watch Foundation reportou que, num mês de 2023, um único fórum da dark web recebeu mais de 20.000 imagens geradas por IA, milhares das quais violavam a lei britânica. Atualizações posteriores alertaram que esse conteúdo está cada vez mais a transbordar para a web aberta, onde utilizadores desavisados e vítimas podem encontrá-lo em fórm abertos e galerias de imagens. Segundo a IWF, parte do conteúdo mais convincente é visualmente indistinguível de abuso real, o que aumenta o risco de revitimização e sobrecarrega moderadores e polícias. A IWF publicou investigação sobre como a IA está a ser abusada para criar imagens de abuso sexual infantil e apelou a contramedidas legais e técnicas urgentes. Os seus relatórios estão disponíveis em IWF research.

O custo humano para vítimas e escolas

Para uma criança, ver o seu rosto colado numa imagem sexual pode desencadear medo, vergonha e uma sensação de perda de controlo. Mesmo que os colegas percebam que a fotografia é fabricada, o dano à reputação e à saúde mental pode ser profundo. As comunidades escolares enfrentam danos secundários à medida que os rumores se espalham, o assédio escolar escala e os professores se apressam a responder a pais, segurança dos alunos e forças da ordem.

As raparigas, em particular, descrevem a alteração da forma como se envolvem online. Na Inglaterra, o comissário para a infância reportou que alguns adolescentes deixaram de publicar fotografias porque temem que ferramentas de desnudamento possam utilizar essas imagens contra elas. Dame Rachel de Souza, comissária para a infância da Inglaterra, apelou aos legisladores para proibir as aplicações que criam deepfakes explícitos de crianças, citando a crescente perturbação entre as adolescentes.

Ferramentas que usam tecnologia deepfake para criar imagens nuas de crianças não deviam ser legais e estou a apelar ao governo para tomar medidas decisivas para as banir. Não têm lugar na nossa sociedade.

No Japão, advogados afirmam que estão a ver mais casos em que rapazes adolescentes são investigados por delitos sexuais ligados a atividades deepfake ou conteúdo explícito partilhado em conversas de grupo. Especialistas alertam que muitos adolescentes não compreendem as consequências legais, nem o dano causado aos pares, até que uma visita da polícia ou um processo disciplinar escolar torne a situação real. Essa lacuna evidencia a necessidade de regras claras, educação escolar e salvaguardas robustas por parte das plataformas.

Ação global e lições para o Japão

Outros países avançaram para colmatar lacunas. A Coreia do Sul aprovou em setembro de 2024 um projeto de lei que criminaliza não só a criação de imagens sexuais deepfake de menores, mas também a sua visualização ou posse. Nos Estados Unidos, uma lei federal aprovada em maio de 2025 torna ilegal publicar imagens ou vídeos sexualmente explícitos sem o consentimento do indivíduo e obriga as plataformas a remover esse conteúdo dentro de 48 horas após o pedido da vítima. Muitos estados dos EUA também atualizaram as leis de modo a que representações de menores em atos sexuais alteradas ou geradas por IA se qualifiquem como material ilegal de abuso sexual infantil, mesmo que uma criança real não estivesse presente no ato representado. Essa atividade ao nível estadual responde a decisões judiciais anteriores nos EUA que tratavam conteúdo puramente virtual de forma diferente de imagens feitas a partir de crianças reais.

Na Europa, as forças da ordem estão a colaborar transfronteiriçamente. A Europol coordenou a Operação Cumberland, uma das primeiras operações globais de combate a material de abuso sexual infantil gerado por IA. Com o apoio de 19 países, a polícia identificou centenas de suspeitos, efetuou dezenas de deteções e revistou domicílios para interromper uma plataforma que distribuía imagens totalmente artificiais de menores. Os investigadores afirmaram que a IA permite agora a indivíduos com competências limitadas produzir quantidades vastas de conteúdo de abuso, e alertaram que os métodos tradicionais de identificação de vítimas ou rastreio do material de origem falham frequentemente quando as imagens são sintéticas. A diretora executiva da Europol, Catherine De Bolle, sublinhou a necessidade de novos métodos de investigação adequados a conteúdo produzido por IA.

As imagens geradas por IA podem ser criadas facilmente por indivíduos com intenção criminosa, o que aumenta o volume de material de abuso e torna mais difícil identificar infractores ou vítimas.

Dentro do Japão, a polícia fez recentemente as primeiras deteções ligadas à venda de posters obscenos gerados por IA de mulheres adultas fictícias através de leilões online, sinalizando que as leis de obscenidade existentes podem alcançar algum abuso de IA. Um suspeito teria lucrado cerca de 10 milhões de ienes ao longo de um ano. Os casos envolvendo crianças apresentam obstáculos adicionais, razão pela qual académicos e organizações de proteção à criança defendem regras nacionais explícitas que cubram representações sexuais de menores geradas por IA, quer baseadas em fotografias reais quer inteiramente sintéticas.

O que as famílias, escolas e plataformas podem fazer agora

Enquanto os decisores políticos debatem reformas, existem medidas práticas para reduzir o risco e responder mais rapidamente quando ocorre abuso. Estas medidas concentram-se no consentimento, no acesso a fotografias, nos canais de denúncia e no apoio de saúde mental.

• Limitar a circulação de fotografias de alunos. As escolas podem restringir a partilha de álbuns de turma e galerias de eventos a encarregados de educação verificados, usar ligações com expiração e aplicar marcas de água a imagens que saiam dos canais oficiais.
• Ensinar consentimento e ética digital desde cedo. Integrar a literacia em IA e media nas aulas de tutoria ou de tecnologia, incluindo discussão franca sobre deepfakes, privacidade e o dano que estas imagens causam.
• Definir regras claras para conversas em grupo. Os clubes e turmas de alunos devem estabelecer códigos de conduta para aplicações de mensagens, com consequências definidas para a partilha de conteúdo explícito ou de assédio.
• Capacitar os alunos para denunciar rapidamente. Tornar simples alertar um adulto de confiança, a escola e a plataforma quando aparece uma imagem abusiva. Uma denúncia rápida reduz a janela de propagação.
• Trabalhar com as forças da ordem. Mesmo que o percurso legal não seja óbvio, partilhar provas com a polícia para que possa aconselhar sobre difamação, privacidade ou ordenanças locais aplicáveis.
• Envolver as plataformas. Usar as ferramentas embutidas para denunciar imagens sexuais não consentidas e solicitar remoções. Manter registo de ligações, carimbos de tempo e nomes de utilizador.
• Apoiar a saúde mental da vítima. Oferecer aconselhamento confidencial e envolver os encarregados de educação prontamente. Não exigir que a vítima confronte os pares para provar que uma imagem é falsa.
• Reduzir o rasto de dados pessoais. Incentivar os alunos a manter as contas privadas, eliminar publicações antigas e evitar publicar fotografias de rosto em alta resolução associadas a detalhes escolares ou de localização.
• Adotar práticas mais seguras de fotografia. Ao partilhar fotografias de equipas ou turmas, considerar enquadramentos mais abertos, menos primeiros planos de rostos e permissões de redistribuição restritas.

Para as empresas de tecnologia, as salvaguardas incluem filtros robustos para prompts e carregamentos, bloqueios predefinidos de funcionalidades de desnudamento, verificação de idade forte e vias rápidas de remoção que funcionem em todos os produtos. A transparência sobre falhas conhecidas e correções documentadas ajuda a reconstruir a confiança. Uma recente controvérsia sobre um chatbot generalista que produziu imagens sexualizadas de uma celebridade de 16 anos demonstra quão rapidamente uma falha de desenho pode desencadear alertas dos reguladores e reação negativa pública.

Pontos-chave

• A polícia japonesa está a receber mais relatórios de que menores estão a criar e partilhar deepfakes sexuais de IA dos seus colegas usando fotografias escolares e imagens de conversas em grupo.
• No último ano, foram apresentadas mais de 100 consultas e queixas em todo o país, com pelo menos 17 casos ligados a eventos escolares e álbuns de conclusão.
• Processar deepfakes é difícil sob a lei nacional atual, que se foca em imagens reais de crianças. A polícia frequentemente recorre a outros diplomas, como a difamação.
• A Agência Nacional de Polícia está a investigar cerca de dez sites e aplicações populares de geração de imagens e planeia usar os resultados tanto para investigações criminais como para educação de jovens.
• Os especialistas afirmam que o sistema legal não acompanhou a evolução. Os académicos defendem regras nacionais explícitas que tratem as imagens sexuais deepfake de menores de forma semelhante ao material ilegal de abuso sexual infantil.
• Internacionalmente, a Coreia do Sul, os Estados Unidos, o Reino Unido e a Austrália avançaram para regular as imagens sexuais geradas por IA, incluindo deveres de remoção rápida e novos delitos.
• A Operação Cumberland da Europol visou uma rede que distribuía conteúdo de abuso infantil totalmente gerado por IA e evidenciou os desafios de investigação quando não é representada nenhuma criança real.
• As escolas, famílias e plataformas podem reduzir danos restringindo o acesso a fotografias, ensinando literacia em IA, fazendo cumprir as regras de conversa, simplificando as denúncias e prestando aconselhamento às vítimas.