Як штучний інтелект перетворив українську блогерку Ольгу Лоєк на російську пропагандистку

Українська студентка і блогерка Ольга Лоєк виявила в китайських соцмережах свої аватари, створені штучним інтелектом, які китайською мовою розповідають про міцну дружбу між Пекіном і Москвою, а також рекламують російські товари.

"Я бачила своє зображення, яке вимовляє те, чого я ніколи не казала", - розповіла ВВС 21-річна дівчина.

Вона запевняє, що це неможливо, адже вона з України, з якою Росія веде повномасштабну війну з 2022 року.

"Божевілля - використовувати українку для російської пропаганди".

Ольга Лоєк живе в Мюнхені й навчається в Університеті Пенсільванії.

У 2023 році вона завела свій YouTube-канал, де розповідає про психічне здоров'я. За деякий час дівчина почала отримувати повідомлення від підписників про те, що її бачили у китайських соцмережах.

І там вона зовсім не Ольга Лоєк, а росіянка, що розмовляє китайською, яку сама Ольга ніколи не вчила.

Її клон представляється Наташею чи Софією, Ейпріл чи Стейсі - залежно від соцмережі, де фігурує її обличчя.

"90% відео присвячені китайсько-російській дружбі й рекламі російської їжі. Це дуже образливо", - обурюється дівчина.

На відеосайтах Douyin і Bilibili знайшлися кілька десятків відеороликів з ШІ-версією Ольги, яка розмовляє мандаринським діалектом китайської мови. Більшість з цих облікових записів пропонують глядачам відвідати їхні інтернет-магазини, щоб купити, за їхніми словами, справжні російські товари.

Один з найбільших акаунтів "Імпортна їжа від Наташі" має понад три млн підписників.

А його господарка запевняє, що Росія — найкраща в світі країна, тож шкода, що інші держави відвертаються від неї. Вона, стверджує, що російські жінки мріють приїхати до Китаю, після чого рекламує російські цукерки.

Це дуже обурило Ольгу, сім'я якої мешкає в пошматованій російською війною Україні.

Але у ширшому сенсі її справа привертає увагу до ризиків технології, яка швидко розвивається і є справжньою проблемою.

Від YouTube до Xiaohongshu

Ольга знайшла свої ШІ-клони на Xiaohongshu - китайській версії Instagram та на Bilibili - найбільшому китайському відеосайті, схожому на YouTube.

"Їх [акаунтів] було дуже багато. Деякі з позначками російських прапорів", — згадує дівчина.

Наразі вона виявила близько 35 облікових записів зі своїм обличчям.

Клонів Ольги створили за допомогою сервісу HeyGen, що спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладах відео на різні мови.

Компанія відгукнулася на допис нареченого Ольги, який розповів її історію у соцмережі Х.

Вони з'ясували, що з обличчям українки створили понад 4900 відео і запевнили, що заблокували зловмисників.

Представник HeyGen розповів BBC, що їхню систему зламали для створення "несанкціонованого контенту", але компанія негайно оновила безпекові протоколи, щоб запобігти подальшому зловживанню.

Анжела Чжан з Університету Гонконгу стверджує, що ситуація Ольги - дуже поширена в Китаї.

Там, за її словами, "існує велика тіньова економіка, що спеціалізується на підробках, незаконному присвоєнні особистих даних та виробництві дипфейків".

І це попри те, що Китай є однією з перших країн, де запровадили правила, щодо використання штучного інтелекту.

За офіційними даними, тільки у 2023 році місцева влада заарештувала 515 людей за фактом "підміни особи" на базі штучного інтелекту.

АВТОР ФОТО,SUPPLIED

Постає питання - як стільки відео з Ольгою потрапили в мережу?

Можливо, причина криється в політиці - в просуванні дружби між Китаєм і Росією.

В останні роки Пекін і Москва дуже зблизилися. А російський лідер Володимир Путін і президент Китаю Сі Цзіньпін заявляють, що дружба між їхніми державами "не має меж".

Китай висвітлює війну в Україні через російські наративи, виправдовуючи їхнє вторгнення, а соцмережі цензурують обговорення війни.

"Навіть якщо такі акаунти не пов’язані з Комуністичною партією Китаю, просування через них пропагандистського контенту знижує ймовірність видалення", - каже Еммі Хайн, дослідниця права й технологій в Болонському університеті.

Це також означає, що звичайні люди, як Ольга, залишаються вразливими й ризикують порушити китайське законодавство, попереджають експерти.

Кайла Блумквіст, дослідниця технологій і геополітики в Оксфордському університеті, каже, що "штучно створений політично чутливий контент може скомпрометувати людину, яку ризикують покарати без належної правової процедури".

Вона додає, що увага Пекіна щодо штучного інтелекту й політики конфіденційності в інтернеті спрямована на захист громадян, але "їхні права щодо уряду залишаються вкрай слабкими".

"Не остання жертва"

АВТОР ФОТО,SUPPLIED

Справа Ольги Лоєк виходить далеко за межі Китаю і показує, як складно регулювати галузь, що розвивається з шаленою швидкістю.

У березні Європейський парламент ухвалив закон, який регулює роботу штучного інтелекту. А в жовтні минулого року президент США Джо Байден видав указ, що зобов'язує розробників штучного інтелекту ділитися даними з урядом.

"Ми потребуємо чіткішого розуміння й більшого консенсусу щодо загроз і способів їх подолання", — каже експертка Блумквіст.

"Однак розбіжності всередині та між країнами перешкоджають реальним діям. Ключовими гравцями галузі є США і Китай, і досягти консенсусу й координувати необхідні спільні дії буде складно", – додає вона.

Тим часом на індивідуальному рівні, люди, схоже, майже не можуть себе захистити. Єдиний вихід -  нічого не викладати в мережу.

"Не завантажуйте свої фото, відео чи аудіо в загальнодоступні соцмережі", - застерігає Хайн. Однак додає, що зловмисники завжди шукатимуть лазівки, навіть якщо уряди вдадуться до жорстких заходів.

Ольга Лоєк впевнена, що вона - не остання жертва ШІ, але не збирається йти з YouTube чи припиняти розміщувати матеріали.

Українка виклала свою історію і каже, що деякі китайські користувачі допомагали їй виявляти підроблені зображення.

За словами Ольги, після того, як вона та її підписники надіслали скарги до китайських соцмереж, близько десяти облікових записів, які імітували її, були видалені.

"Я хотіла поділитися своєю історією, щоб люди зрозуміли, що не все, що ви бачите онлайн, є реальним, - каже блогерка. - Я люблю ділитися своїми ідеями зі світом, і жоден з шахраїв не стане мені на заваді".

Автор: Фан Ван, BBC News