O grupo brasileiro017 bet netódio a mulheres que fabrica com IA imagens pornô falsas sob encomenda :017 bet net

"Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa017 bet net65 anos. Só017 bet netlembrar da foto,017 bet netter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu", ela conta à BBC News Brasil.

Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.

Em maio, Ana havia compartilhado um alerta: participantes017 bet netuma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir017 bet netfotos das colegas, vizinhas ou parentes.

Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena017 bet netsexo.

Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.

A atriz Mel Maia,017 bet net20 anos, foi recentemente alvo017 bet netum vídeo manipulado que afirmava falsamente ser uma cena017 bet netsexo entre ela e um homem apontado como integrante da facção criminosa Comando Vermelho.

Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.

Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook017 bet netalgum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas017 bet netnovo.

É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo agora: promover comunidades017 bet netpornô deepfake que funcionam dentro do aplicativo017 bet netmensagens Telegram.

Foi assim com a página do Facebook na qual a imagem017 bet netAna e017 bet netmãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.

Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.

'Mulher é um ser maligno'

A reportagem da BBC News Brasil presenciou017 bet nettempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir017 bet netfotos017 bet netmulheres que diziam ser suas conhecidas.

Depois017 bet netalgum tempo, quem tinha feito o pedido recebia a imagem manipulada017 bet netvolta.

Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação —017 bet netuma mulher vestida.

A seguir, apareceu uma versão digitalmente modificada017 bet netque ela aparecia nua.

Participante 1 - Quem é?

Participante 2 - Mãe017 bet netum amigo meu kkkk

Nos diálogos travados no grupo, os participantes demonstravam ter uma postura017 bet netforte hostilidade017 bet netrelação a mulheres.

Participante 3 - Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho

Participante 4 - Ou apanhando

Participante 5 - Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje017 bet netdia elas são verdadeiros demônios

Outro membro da comunidade fala017 bet netforma obsessiva sobre a irmã, aborda a possibilidade017 bet netabusá-la e pede que façam um pornô deepfake dela.

Alguns também se gabam017 bet netapreciar gore — vídeos e fotos017 bet netsituações017 bet netextrema violência, quase sempre reais.

Mesmo017 bet netcomunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo017 bet netconstranger mulheres é celebrado.

Ana mostra uma página017 bet netmemes, que se descreve como017 bet net"humor negro" e reúne 65 mil usuários, onde se ironiza o receio017 bet netmulheres017 bet netpostarem livremente suas fotos.

"Apenas imagine: [...] mulheres passam a ter medo017 bet netpostar qualquer foto na internet, pois o robô da p...ria está sempre à espreita", disse um dos participantes.

Outro comentou: "*mulheres passam a ter medo017 bet netpostar qualquer foto na internet* Objetivo concluído ✔️"

À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a circulação017 bet netconteúdo prejudicial017 bet netseus aplicativos e atuam quando necessário.

Tanto nestes grupos017 bet netmemes do Facebook, que são acessíveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da “machosfera”, como são chamados os grupos e fóruns online017 bet netque os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.

Há as subdivisões dentro da machosfera, mas o discurso017 bet netódio — ou ao menos017 bet netressentimento — contra as mulheres está presente017 bet netboa parte delas. Os grupos incel e redpill estão entre os principais.

O nome incel vem da expressão017 bet netinglês "involuntary celibates" (celibatários involuntários,017 bet nettradução livre do inglês).

São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.

Muitos alegam que perderam a "loteria genética" (consideram não ser o "protótipo"017 bet nethomem popular) e afirmam que estão "condenados" ao desprezo pelo sexo feminino.

Diferentemente dos incels, os redpills falam017 bet nettravar relacionamentos com mulheres, mas sustentam que é necessária uma atitude017 bet netdominação e017 bet netdesconfiança017 bet netrelação a elas.

Prega-se um retorno aos tempos017 bet netque o domínio masculino era indiscutível na sociedade.

Redpill (pílula vermelha,017 bet nettradução livre) é uma referência aos filmes da franquia Matrix,017 bet netque o protagonista escolhe entre tomar a pílula azul, que permite seguir017 bet netum "mundo017 bet netilusões", e a vermelha, para encarar a "realidade".

Ana fala com o 'admin'

Ana conta que os administradores, ou "admins", da comunidade no Telegram ofereciam, por R$ 15, acesso a um "grupo VIP com outros tipos017 bet netconteúdo".

Ela mostrou à reportagem capturas017 bet nettela017 bet netuma conversa que teve com um deles017 bet netque ela demonstrou interesse017 bet netacessar o grupo.

O administrador, então, forneceu duas chaves017 bet netpix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.

Ele voltou então a procurá-la e passou uma nova chave pix: seu número017 bet netcelular.

Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um homem do interior017 bet netGoiás.

Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimas017 bet netpornô deepfake denunciaram seus casos.

Todas se reuniram017 bet netum grupo017 bet netWhatsApp para discutir estratégias sobre como fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.

Entre as participantes, há a mãe017 bet netuma menor017 bet netidade que foi alvo017 bet netdeepfake.

Outra é Fernanda*,017 bet net22 anos. Ela é cosplayer (veste fantasias017 bet netpersonagens famosos, principalmente dos animes japoneses) e teve uma foto017 bet netuma festa017 bet netHalloween alterada.

Fernanda diz que já sofre com agressões online quando não responde a abordagens017 bet netinteressados na cultura cosplayer.

Após a manipulação da017 bet netfoto, a preocupação aumentou.

"Você começa a ficar com medos do tipo 'será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?", diz.

"Porque eles acreditam que, por causa da roupa, eles têm direito017 bet netfazer isso. Tanto que um dos comentários no grupo deles do Telegram foi 'para não ser vítima do nosso grupo, basta não tirar foto com decote'."

Ela decidiu tornar privados seus perfis, que incluíam as fotos017 bet netcosplay, e diz que se tornou "reclusa" nas redes sociais desde então.

Poucas respostas da polícia

Ana, Fernanda e outras vítimas que moram017 bet netSão Paulo levaram capturas017 bet nettela017 bet netconversas e imagens postadas nos grupos no Facebook e no Telegram à Delegacia017 bet netDelitos Cometidos por Meios Eletrônicos, divisão criada no final017 bet net2020.

Elas dizem que, após uma espera017 bet netquatro horas, foram informadas que a denúncia seria registrada, mas que a delegacia só investiga casos017 bet netfraudes financeiras ou violação017 bet netredes017 bet netdados e que outros crimes cometidos por meios eletrônicos devem ser apurados pelas delegacias mais próximas017 bet netonde as vítimas moram.

Ana e Fernanda afirmam que, nas respectivas delegacias, foram informadas que os policiais ainda aguardavam o registro feito pela Delegacia017 bet netDelitos Cometidos por Meios Eletrônicos.

Até o momento017 bet netpublicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer sinalização017 bet netque suas denúncias estão sendo apuradas.

A Secretaria017 bet netSegurança Pública do Estado017 bet netSão Paulo afirmou que "a instituição está à disposição da vítima, e017 bet netoutras mulheres que sofreram este tipo017 bet netcrime, para formalizar o registro do boletim017 bet netocorrência e investigar os fatos".

A secretaria informou ainda que "[Fernanda] foi chamada para comparecer à unidade para ser ouvida e fornecer informações que possam auxiliar na elucidação do crime" e que, no caso017 bet netAna, a delegacia local "prossegue com as diligências para esclarecer os fatos".

A secretaria não esclareceu por que a Delegacia017 bet netDelitos Cometidos por Meios Eletrônicos investiga apenas fraudes financeiras ou violação017 bet netredes017 bet netdados, mas afirmou que "todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet".

Lei não trata017 bet net'deepfake'

A lei brasileira ainda não prevê punições específicas para a produção017 bet netdeepfakes.

Segundo Patricia Peck Pinheiro, advogada especialista017 bet netdireito digital, uma falsificação017 bet netconotação sexual por meios tecnológicos é analisada pela Justiça como "ataque à honra, intimidade e imagem da pessoa, que são bens protegidos pelo ordenamento jurídico".

Casos assim, explica Peck, podem ser enquadrados como crime017 bet netinjúria ou punidos por meio da legislação que trata017 bet netcrimes sexuais.

Há dois projetos017 bet netlei no Congresso, um017 bet netautoria do senador Chico Rodrigues (PSB-RR) e outro da deputada federal Jandira Feghali (PCdoB-RJ), que propõem aumento017 bet netpenas quando há uso017 bet netdeepfake.

"Como não temos uma lei específica e o assunto fica envolto017 bet netvárias leis esparsas. Com certeza é benéfica a existência desses projetos", diz Peck.

Mas ela adverte que a legislação já não consegue alcançar a velocidade das mudanças tecnológicas. A advogada diz ser necessária "uma atuação preventiva e orientativa por parte do Estado".

"É preciso poder agir rápido, para acolher a vítima e realizar a investigação, que também demanda uso017 bet netrecursos técnicos para se obter as provas necessárias para aplicação da lei e punição exemplar dos infratores."

O projeto017 bet netFeghali já foi aprovado na Câmara dos Deputados e, agora, tramita no Senado.

A proposta017 bet netRodrigues foi apensada, ou seja, passou a integrar o projeto017 bet netlei que regulamenta a inteligência artificial no Brasil,017 bet netrelatoria do senador Eduardo Gomes (PL-TO). Rodrigues tenta reverter isso, para que seu projeto seja analisado isoladamente.

Em 18017 bet netjunho, a votação do relatório017 bet netregulamentação da inteligência artificial no país foi adiada até que sejam realizadas mais cinco audiências públicas para debater o projeto.

Deepfake evolui rápido

A pesquisadora Agnes E. Venema, especializada no tema e afiliada à Universidade017 bet netMalta, diz que ferramentas017 bet netprodução017 bet netdeepfakes têm ficado progressivamente melhores.

No dia a dia, avalia Venema, será cada vez mais difícil diferenciar um conteúdo falso017 bet netoutro que é real.

"Isso é algo que vem ocorrendo nos últimos dez anos. O deepfake feito017 bet net2024 é um deepfake mais avançado017 bet netrelação ao que foi feito017 bet net2020", afirma a pesquisadora.

Ainda que peritos consigam apontar uma manipulação, o dano provocado pela circulação destes conteúdos é grave, diz Venema, porque as pessoas ficam inclinadas a aceitar o deepfake como verdadeiro se o conteúdo "confirma" suas crenças.

"Mesmo deepfakes de péssima qualidade podem causar grandes prejuízos. Há uma mentalidade 'se tem fumaça, tem fogo' nas pessoas."

Para Venema, "plataformas tecnológicas precisam ser responsabilizadas".

"O peso017 bet netremover material desse tipo não deve ficar017 bet netcima dos ombros da vítima, mas sim das plataformas digitais."

Procurada pela BBC News Brasil, a Meta, responsável por Facebook, Instagram e WhatsApp, afirmou que revisa as publicações017 bet netsuas plataformas por meio017 bet netferramentas que usam inteligência artificial e também com o apoio017 bet netequipes humanas para detectar, analisar e remover conteúdos que violem seus padrões.

"Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos”, disse a empresa por meio017 bet netnota à reportagem.

O Telegram afirmou que, "desde017 bet netcriação, tem moderado ativamente conteúdo prejudicial em017 bet netplataforma, incluindo pornografia ilegal".

"Moderadores usam uma combinação017 bet netmonitoramento proativo e dos relatos017 bet netusuários para remover milhões017 bet netitens017 bet netconteúdo prejudicial todos os dias", disse a empresa.

Enquanto isso, Ana afirma que não aceita mais solicitações017 bet netamizade no Facebook e no Instagram e que fechou o acesso às suas fotos pessoais mesmo para seus contatos nestas redes.

Ela pensa017 bet netcontratar um advogado com o dinheiro que vem juntando com seu trabalho como bartender para acelerar a busca por justiça.

"Estou totalmente disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para mim", diz ela.

"Esse tipo017 bet netcoisa está dentro017 bet netuma bolha ainda. Quando a bolha explodir, espero que essas pessoas dos grupos sejam responsabilizadas."

*Os nomes das vítimas foram trocados para preservar017 bet netidentidade.