Як deepfake порно загрожує студенткам і школяркам

Днями південнокорейська студентка Хіджин отримала повідомлення від анонімного адресата в телеграмі: "У вас стався витік фото й особистих даних. Давайте це обговоримо".

Дівчина зайшла в чат і побачила своє старе шкільне фото. Потім з'явилося друге зображення: те саме, але відверто сексуального характеру - цифрова підробка, зроблена за допомогою технології deepfake.

Перелякана Хіджин (ім'я дівчини змінене) не відповіла, але знімки продовжували надходити. На всіх її обличчя було прикріплене до тіла, що займається сексом.

(Під "дипфейковим порно" розуміють відвертий контент, де обличчя людей накладаються на інші порнографічні зображення або відео за допомогою технологій штучного інтелекту. - Ред.)

Хіджин була не єдиною, хто стикнувся з такою проблемою.

Нещодавно стало відомо, що південнокорейська поліція розслідує справи про фальшиве порно у двох великих університетах країни.

Втім журналістка Ко Нарін впевнена: таких випадків може бути більше.

Вона провела розслідування в соціальних мережах і виявила десятки телеграм-чатів, де користувачі викладали фото жінок і за допомогою штучного інтелекту за лічені секунди перетворювали їх на фейкові порнографічні зображення.

"Щохвилини люди завантажували фото знайомих дівчат і просили перетворити їх на фальшиве порно", - розповіла Ко ВВС.

Вона з'ясувала, що ці групи націлені не лише на студентів університетів, а й на школярів старших і навіть середніх класів.

Якщо контенту багато, створюють окрему підгрупу - так звану кімнату. Їх часто називають "кімнатами приниження" або "кімнатами друзів", доступ до яких суворо обмежений.

Фейкова порнографія у соцмережах

ВВС ознайомилась з описом кількох таких чатів. В одному з них учасникам пропонують розмістити понад чотири світлини конкретної людини, а також її ім'я, вік і місце проживання.

"Я була приголомшена тим, наскільки систематизованим і організованим був цей процес, - каже Ко. - Найжахливіше, що я побачила, - це група для неповнолітніх учнів однієї зі шкіл, до якої входило понад 2 000 дітей".

Ко написала статтю про те, що відбувається. Це мало ефект бомби і вразило Південну Корею. У понеділок поліція оголосила, що почала досудове розслідування щодо Telegram у справі про можливе сприяння в поширенні дипфейків сексуального характеру.

Минулого тижня у Франції засновнику додатка Павлу Дурову висунули обвинувачення у співучасті в низці злочинів, пов'язаних із додатком, зокрема у створенні умов для поширення дитячої порнографії.

За попередніми даними, під прицілом порнофейків опинилися 500 південнокорейських шкіл та університетів.

Реальну кількість постраждалих ще належить з'ясувати, але вважають, що багато з них не досягли 16 років - віку згоди в Південній Кореї. Велика частина підозрюваних - самі підлітки.

Після цього десятки жінок і дівчаток по всій країні прибрали свої фото з соцмереж або взагалі видалили акаунти, побоюючись, що можуть стати об'єктами порнофейків.

"Ми засмучені й обурені тим, що нам доводиться цензурувати свою поведінку в соцмережах, хоча ми не зробили нічого поганого", - пояснює одна зі студенток університету А Ин, чиї однолітки стали об'єктом порноатак.

За словами А Ин, одній з жертв поліція порадила не порушувати справу, оскільки зловити злочинця, за їхніми словами, буде занадто складно.

Автор фото,News 1

Складнощі з розслідуванням визнав і очільник поліції Ву Чон Су. За його словами, Telegram не надає жодних даних, зокрема інформації про акаунти користувачів.

Користувачі часто анонімні, чати можна перевести в закритий режим, а їхній контент швидко і безслідно видаляється. Це робить Telegram ідеальним місцем для процвітання злочинної поведінки.

Однак захисники прав жінок звинувачують владу Південної Кореї в тому, що вона занадто довго дозволяла сексуальному насильству в Telegram залишатися безконтрольним, оскільки країна вже стикалася з подібним явищем. У 2019 році злочинна група використала Telegram, щоб змусити жінок і дітей створювати і поширювати відверті сексуальні зображення.

Тоді поліція звернулася до Telegram по допомогу в розслідуванні, але додаток проігнорував їхні запити. Організатора злочину зрештою засудили до понад 40 років в'язниці, але проти платформи справу не порушили.

"Вони покарали головних фігурантів, але саму проблему залишили поза увагою, і я думаю, це тільки погіршило ситуацію, - каже журналістка Ко. - Якщо технологічні компанії не хочуть співпрацювати з правоохоронними органами, то держава має регулювати їхню діяльність, щоб захистити своїх громадян".

Південнокорейський Центр захисту жертв сексуального насильства в інтернеті (ACOSAV) ще раніше звернув увагу на різке зростання кількості неповнолітніх жертв фейкової порнографії.

У 2023 році до них звернулись 86 підлітків, які постраждали від порнофейків. Цього року їхня кількість зросла до 238. Тільки за останній тиждень вони допомогли ще 64 неповнолітнім жертвам.

Один з керівників центру Пак Сонхьо каже, що її працівники були завалені дзвінками і працювали цілодобово.

"Завдяки технології deepfake з'являється все більше заборонених відеоматеріалів, і ми побоюємося, що їхня кількість буде тільки рости".

Крім консультування жертв, центр відстежує шкідливий контент і працює з онлайн-платформами, домагаючись його видалення. Парк каже, що були випадки, коли Telegram видаляв контент на їхнє прохання.

ВВС звернулась до Telegram за коментарем.

Там заявили, що їхні модератори "активно стежать за публічними сторінками додатка, приймають повідомлення від користувачів і щодня видаляти мільйони матеріалів, які порушують умови платформи".

Автор фото,Getty Images

Лі Мен Хва опікується молодими людьми, які скоїли сексуальні злочини. Вона вважає, що зловживання "дипфейками" - частина глибшої проблеми. "Для підлітків фейки стали частиною їхньої культури. Вони сприймають їх, як гру чи розіграш".

Лі переконана: вкрай важливо виховувати молодь, пояснювати проблему. Тоді вони починають краще розуміти, що таке сексуальне насильство. І це зупиняє їх від повторних злочинів.

Тим часом уряд Південної Кореї заявив, що посилить кримінальне покарання за створення і поширення фейкових зображень, а також каратиме за перегляд порнографії.

Однак зробити це не так просто. Більшість злочинців - підлітки, які зазвичай потрапляють під ювенальні суди, де їм виносять м'які вироки.

Після викриття проблеми багато чатів закрили, але на їхньому місці майже напевно з'являться нові. Так нещодавно створили "кімнату принижень" для журналістів, які висвітлюють цю історію.

Ко Нарін каже, що в неї почалися проблеми зі сном: "Я постійно перевіряю, чи не завантажили мою фотографію".

Ця проблема хвилює майже всіх жінок і дівчат у Південній Кореї. Студентка університету А Ин розповіла, що тепер з підозрою ставитися до всіх знайомих чоловіків.

"Я стала хворобливо недовірливою, і в цьому немає нічого хорошого", - резюмує дівчина.

Автор: Джин Маккензі, Кореспондентка у Сеулі