SP Diário
A Secretaria Nacional de Direitos Digitais, parte do Ministério da Justiça e Segurança Pública, tomou a iniciativa de solicitar à Polícia Federal (PF) e à Agência Nacional de Proteção de Dados (ANPD) o bloqueio de 80 sites que utilizam inteligência artificial (IA) para criar imagens e vídeos falsos de nudez, conhecidos como deepnudes.
O pedido, assinado pelo secretário Victor Oliveira Fernandes, não se limita ao bloqueio; ele também requer a investigação das empresas responsáveis por esses serviços e a proteção dos dados de acesso dos usuários.
A ação foi desencadeada após uma denúncia da Safernet, uma organização não governamental que defende os direitos humanos na internet. A ONG identificou sinais do uso dessas ferramentas para produzir conteúdo sexualizado envolvendo crianças e adolescentes.
A nota técnica elaborada pela Secretaria orienta tanto a PF quanto a ANPD a monitorar essas plataformas e considerar a possibilidade de suspender seus serviços.
No documento, há indícios preocupantes de que mulheres reais e menores foram alvo da criação de imagens nuas através desses sites.
Além do bloqueio solicitado, o Ministério da Justiça pede uma investigação minuciosa das empresas que ofertam serviços de nudificação e dos usuários que acessam tais conteúdos.
Alguns dos sites mencionados não apenas oferecem ferramentas para a produção de imagens falsas, mas também disponibilizam um “acervo” com imagens e vídeos manipulados anteriormente, incluindo conteúdos que envolvem mulheres identificáveis ou com potencial para identificação.
Consequências e implicações dos “deepnudes”
De acordo com o Ministério da Justiça, apenas oferecer essas ferramentas já é considerado uma prática abusiva.
No documento enviado, é afirmado que “a simples disponibilização de serviços destinados à geração ou manipulação de imagens para criar conteúdo sexualizado sem autorização configura uma prática intrinsecamente abusiva”, pois isso permite a exploração da imagem e identidade de indivíduos para produzir conteúdos íntimos ou sexualizados sem consentimento.
Um ponto agravante destacado pela Secretaria é a inexistência de barreiras de acesso: as ferramentas operam em um ambiente online aberto, acessíveis por navegadores comuns, sem exigir cadastro, comprovação de identidade ou verificação etária.
Isto facilita tanto o uso indiscriminado quanto o acesso por menores. As repercussões para as vítimas vão além da exposição das imagens; incluem constrangimento, sofrimento psicológico, danos à reputação, assédio, estigmatização e violência.
Fundamentação legal e atuação da Safernet
A ação do Ministério se baseia em dois marcos legais distintos. A manipulação de imagens de crianças e adolescentes para criar conteúdos sexualizados é crime previsto no Estatuto da Criança e do Adolescente (ECA).
Além disso, um decreto assinado pelo presidente Lula (PT) em maio proíbe a oferta de ferramentas para gerar deepnudes envolvendo mulheres. Esse decreto obriga as empresas que atuam no Brasil a bloquear esse tipo de uso sob pena de punições se não adotarem medidas preventivas.
Através da denúncia formal feita pela Safernet Brasil, o Ministério conseguiu identificar parte dos 80 sites. A organização protocolou um ofício listando plataformas dedicadas à nudificação, destacando indícios do uso dessas ferramentas para criar conteúdo sexualizado envolvendo crianças e adolescentes.
“Os dados apresentados pela SaferNet Brasil apontam indícios da utilização dessas ferramentas para adulterar imagens de crianças e adolescentes com o intuito de gerar conteúdos sexualizados”, afirma o documento da Secretaria Nacional de Direitos Digitais.
