Escândalo abrange mais de 500 instituições de ensino e várias vítimas menores, com mensagens em grupos de bate-papo do Telegram.
No último sábado (31/8), uma mensagem intrigante chegou ao celular de Heejin através do Telegram, proveniente de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais foram expostas.’ A situação se complicou ainda mais com a possibilidade de que essas imagens pudessem ser utilizadas em pornografia e deepfake.
O uso de deepfake para criar imagens distorcidas de realidade é uma preocupação crescente, especialmente quando envolve conteúdo pornográfico. A manipulação de imagens pode levar a consequências devastadoras para a privacidade e reputação das pessoas, tornando essencial a conscientização sobre os riscos associados a essa tecnologia. A proteção da identidade é fundamental em um mundo digital cada vez mais complexo.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, ela se deparou com uma foto sua tirada anos atrás, enquanto ainda estava na escola. Para seu horror, uma segunda imagem, que utilizava a mesma foto, foi enviada, mas de forma sexualmente explícita — e completamente falsa. Heejin, que não é seu nome verdadeiro, ficou apavorada e optou por não responder, mas as imagens continuaram a chegar. Em todas elas, seu rosto foi anexado a um corpo realizando um ato sexual, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso e pornográfico — está sendo gerada com crescente frequência através de ferramentas de inteligência artificial.
Compreendendo a Distorção da Realidade
O trauma devastador enfrentado por quem tem sua imagem utilizada em ‘deepfakes’ pornográficos é inegável. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. Entretanto, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado um furo de reportagem que se tornaria um marco em sua carreira. Recentemente, foi revelado que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Artigos Relacionados
Grupos de Bate-Papo e Compartilhamento de Conteúdo Falso
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde os usuários compartilhavam imagens de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, afirmou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias, mas também incluíam salas de bate-papo dedicadas a escolas de ensino médio e até mesmo de ensino fundamental.
Salas de Humilhação e o Crescimento do Problema
Se um número considerável de conteúdo fosse criado usando imagens de uma aluna específica, ela poderia até ganhar sua própria sala. Comumente conhecidas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas costumam ter regras de entrada rigorosas. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu impor punições mais severas para os envolvidos, enquanto o presidente pediu uma maior educação entre os jovens.
A Resposta do Telegram e o Combate à Pornografia Ilegal
O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. Além disso, a BBC teve acesso a descrições de várias dessas salas de bate-papo. Uma delas solicita que os membros postem mais de quatro fotos de alguém, junto ao nome, com o intuito de criar e compartilhar esse conteúdo distorcido. A crescente preocupação com a pornografia deepfake e suas implicações éticas e legais continua a ser um tema debatido em todo o mundo, refletindo a necessidade urgente de regulamentação e proteção das vítimas.
Fonte: © G1 – Tecnologia
