
Пів мільйона переглядів одного дипфейку. Як у тіктоку експлуатують довіру до українських журналісток


У подкасті «Медіуми» Сергій Міхальков, керівник відділу дослідження російської дезінформації у виданні Texty.org.ua, пояснює, як зловмисники використовують довіру до відомих телеведучих, чому платформа не завжди маркує згенеровані ШІ відео та як такі маніпуляції впливають на репутацію журналісток і довіру до медіа загалом.
А також — про те, наскільки легко створити переконливий дипфейк, чому редакціям складно виявляти підроблені відео та як захистити журналісток від використання їхніх образів без згоди.
Підписатися на подкаст «Медіуми» можна на Apple Podcasts, Spotify, Megogo Audio, NV Подкасти, YouTube Music, YouTube та інших подкастингових платформ.
00:00 Про масштаби використання ШІ для створення фейків із журналістками;
02:48 «Лідеркою в нашому наборі даних є Соломія Вітвіцька»;
04:42 Про відсутність маркування відео з підробленими голосами;
06:42 «Певна модерація справді є, але вона не тотальна»;
09:42 «Одна з цілей — це залучення аудиторії»;
12:14 Про те, як редакціям реагувати на дипфейки з їхніми журналістками.
Про масштаби використання ШІ для створення фейків із журналістками
Наталка Соколенко: Обговоримо цікаве дослідження видання Тексти.org.ua — «Штучний інтелект і TikTok: як відомих журналісток перетворюють на фейки». Сергію, чому ви вирішили взятися за цю тему?
Сергій Міхальков: Насправді ідея народилася не лише в нас. Наші партнери в цьому дослідженні, організація «Жінки в медіа», запропонували нам зробити щось подібне. Ми довго думали, що саме можемо дослідити, і потім побачили, що в тіктоку часто з'являються трендові відео, у яких експлуатують образи українських журналісток, але з різною метою.
Ми бачимо, як за допомогою штучного інтелекту створюють і використовують ці образи, щоб або отримати персональні дані користувачів, або просувати деструктивні наративи.
Наталка Соколенко: Які це наративи? Що вас найбільше вразило?
Сергій Міхальков: Ми знайшли в тіктоку майже 600 таких відео.
Наталка Соколенко: Відео з журналістками, з використанням їхніх голосів?
Сергій Міхальков: Так. Це несправжні відео, але вони виглядають як справжні. Деякі мають дуже добру якість, а щодо інших із першого погляду зрозуміло, що це штучний інтелект.
Ми розділили їх на дві категорії. Перша — відео, у яких маніпулюють лише голосом. Тобто беруть реальне відео, але за допомогою ШІ створюють інший голос. Друга категорія — відео, у яких повністю згенеровано і голос, і саме зображення.
Після цього ми проаналізували, про що саме говорять у цих відео, і виділили кілька категорій. Найбільша — відео про петиції. Наприклад, закликають підписати петицію, щоб отримати гроші від Європейського Союзу. Або підписати петицію, щоб «відправити Мар'яну Безуглу на передову». Також багато петицій пов'язані з ім'ям Олексія Гончаренка. У таких відео він нібито пропонує «відправити працівників ТЦК та поліції на фронт замість того, щоб мобілізувати інших людей».
«Лідеркою в нашому наборі даних є Соломія Вітвіцька»
Наталка Соколенко: В чиї вуста творці цих дипфейків вкладають такі меседжі?
Сергій Міхальков: Насамперед це відомі тележурналістки. Наприклад, лідеркою в нашому наборі даних є Соломія Вітвіцька.
Наталка Соколенко: Тобто її образ і голос експлуатують найбільше?
Сергій Міхальков: Так, у нашому наборі даних саме вона була лідеркою. Її образ використовують як для створення відео, так і для маніпуляцій із голосом. Також використовують образи інших телеведучих. Чому саме телеведучих? Тому що вони вже впізнавані й мають довіру аудиторії. Саме через це їхні образи постійно експлуатують.
Наталка Соколенко: Скільки переглядів набирають такі відео? Наскільки це масштабна проблема?
Сергій Міхальков: Цифри дуже різні. Є відео, які майже не набирають переглядів, а є справжні рекордсмени. Наприклад, ми знайшли відео з Наталією Мосейчук, також про петицію та відправлення поліцейських на фронт. Лише це одне відео набрало 500 тисяч переглядів.
Наталка Соколенко: А ви читали коментарі? Люди розуміють, що це фейк? Хоч хтось?
Сергій Міхальков: Тут складно. Коли дивишся коментарі, одразу бачиш, що є багато людей, які розуміють, що це фейк. Але є й велика кількість коментарів, автори яких ніби підігрують цим відео. І тут виникає питання: це коментар бота чи справжньої людини?
Я сподіваюся, що це коментарі ботів. Тому що, якщо їх пишуть реальні люди, то в багатьох користувачів тіктокк дуже погано з критичним мисленням.
Є також коментарі, у яких зневажливо ставляться до журналісток або одразу звинувачують їх у тому, що вони говорять неправду.
Наталка Соколенко: Я згодна з вами, що ця проблема досить широка, має різні виміри й проявляється на різних платформах.
Про відсутність маркування відео з підробленими голосами
Наталка Соколенко: Нещодавно була низка публікацій у різних медіа про те, що кожна шоста депутатка Європарламенту стикається зі створенням дипфейків із використанням її голосу та зображення. І це не просто дипфейки, а дипфейки порнографічного змісту. Їх розміщують на відповідних порносайтах, і чимало депутаток через це вирішують завершити політичну кар'єру.
Зрозуміло, що з порносайтами розбиратися дуже важко. Я навіть не уявляю, наскільки їхня діяльність регулюється законодавством і як із ними можуть контактувати люди, які постраждали від створення таких дипфейків.
Інша річ — тікток. Це все-таки не порносайт, хоча, напевно, теж складна для комунікації компанія. Вона китайська, але легально працює на багатьох ринках, зокрема в Європейському Союзі та Сполучених Штатах Америки. Як сама платформа «Тікток» ставиться до того, що на ній з'являються дипфейки?
Сергій Міхальков: Мені здається, будь-яка платформа, коли розповідає про свої алгоритми та принципи роботи, заявляє, що бореться з таким контентом. Ми знаємо окремі випадки, коли платформа справді йшла назустріч і видаляла його.
Але насамперед поговорімо про маркування. Платформа заявляє, що відео, створені за допомогою штучного інтелекту, будуть маркуватися. І деякі відео справді мають позначку про те, що їх створено за допомогою ШІ.
Проте маркують не всі відео. Коли ми проводили дослідження, то побачили, що особливо це стосується випадків втручання в аудіо. Якщо аудіодоріжку створено за допомогою штучного інтелекту, такого маркування часто не було.
Наталка Соколенко: Взагалі?
Сергій Міхальков: Були буквально поодинокі випадки. Але коли зображення справжнє, а аудіодоріжка замінена, ми такого маркування не бачили.
«Певна модерація справді є, але вона не тотальна»
Наталка Соколенко: Можливо, це просто не можуть розрізнити люди, які не перебувають у контексті нашої політичної, культурної чи мовної ситуації?
Сергій Міхальков: Це залежить від того, як сама платформа працює з таким контентом і як створює інструменти для його виявлення. Важливо, щоб такі відео одразу виявляли й позначали.
Якщо говорити саме про тікток, ми бачимо, що деякі відео маркують. Але що відбувається далі? Наскільки активно їх видаляють?
Складність роботи з тіктоком полягає в тому, що, коли з'являється справді негативний, дискредитаційний контент, його можуть видалити. І перше завдання дослідників — встигнути зберегти відео для подальшого аналізу.
У нас були випадки, коли ми знаходили відео, встигали його завантажити, але через деякий час поверталися до нього й бачили, що його вже видалено. Або взагалі видалено акаунт, який публікував такі відео.
Тобто певна модерація справді є, але вона не тотальна. Нам усе ж вдалося провести й опублікувати дослідження, і деякі з цих відео, можливо, залишаються на платформі й сьогодні.
Також платформа може видаляти контент після звернень. Наприклад, нам стало відомо, що наші партнери з організації «Жінки в медіа» спільно з Центром протидії дезінформації зверталися до Тіктоку. Після цього деякі відео прибрали з платформи.
Наталка Соколенко: Але все одно минає певний час, протягом якого люди встигають побачити ці відео й відреагувати на них. Тому це небезпечна технологія. Поговорімо про саму технологію. Ви досліджували відео, у яких змінено лише голос, і відео, у яких змінено і голос, і зображення. Наскільки просто створювати такі ролики?
Сергій Міхальков: Мені важко сказати, наскільки це проста технологія. Люди, які займаються технічними аспектами, можуть досить швидко створювати такі відео.
Ми провели власний експеримент. За допомогою штучного інтелекту створили образ ведучої нашого ютуб-каналу. Звичайно, спочатку отримали її згоду. Це зайняло небагато часу, і людина, яка створювала відео, сказала, що це досить просто. Проблема була не у створенні самого відео, а в роботі з аудіодоріжкою. Ті, хто раніше чув аудіо, згенероване штучним інтелектом, напевно, помічали, що наголоси іноді стоять не там, де потрібно. Також були складнощі з вимовою цифр.
Після того як ми дещо налаштували й знайшли спосіб обійти ці проблеми, у нас вийшла чудова згенерована аудіодоріжка. Зараз технології штучного інтелекту справляються з цим ще краще. Ми проводили дослідження приблизно минулого року й бачимо, який стрибок за цей час відбувся у створенні таких відео та аудіо.
Наталка Соколенко: І за законом Мерфі все це буде ще пришвидшуватися й удосконалюватися.
«Одна з цілей — це залучення аудиторії»
Наталка Соколенко: Чи вдалося вам зрозуміти, яка все-таки мета людей, які створюють фейки на основі голосів та образів наших українських телеведучих?
Сергій Міхальков: Одна з цілей тих, хто розвиває свої канали, причому не обов'язково в тіктоку, а й на інших соціальних платформах, — це залучення аудиторії.
Друга мета — отримання персональних даних. Наприклад, коли вас закликають зареєструватися для отримання гуманітарної допомоги, щоб нібито отримати кошти від Великої Британії або банку. Ми також бачили такі відео.
Вам дають посилання, за яким можна перейти й надати свої дані. Звичайно, за такими посиланнями переходити не можна.
Ще одна категорія — це дискредитація України через поширення фейків. Є один приклад. Ми якраз готували матеріал про пошук даних, коли сталося вбивство Ірини Фаріон. І побачили, як один акаунт у тіктоку одразу опублікував три різні відео на цю тему, причому їхній зміст суперечив один одному.
Спочатку була версія, що людина, яку заарештували, зовсім не винна й що є якась інша особа. Потім — що ми ніколи не дізнаємося всієї правди. Тобто поширюють і такий контент.
Наталка Соколенко: Ще один важливий аспект створення фейкових відео на основі образів наших телеведучих полягає в тому, що це жінки. Чи можна в такому разі говорити про технологічно зумовлене гендерне насильство щодо наших колег?
Сергій Міхальков: Зроблю невеликий відступ. Ми також бачили відео з чоловіками, але там були інші сюжети.
Наприклад, один із найпопулярніших сюжетів у відео з жінками стосується ТЦК, поліції та закликів повернути наших рідних. Чому? Тому що тут використовують емпатію, чутливість жінок. Саме так це подають.
У відео з чоловіками були інші сюжети: заклики підписати петицію з іншої проблематики, отримати кошти тощо.
Наскільки це насильство? Звичайно, це дискредитація цих жінок. І це матиме негативні наслідки, адже люди переставатимуть довіряти не лише конкретним тележурналісткам, а й журналістам загалом, усій професії.
Ми знаємо такі випадки. Наприклад, спілкувалися з однією журналісткою, яка розповіла, що знала про створення відео, у яких вона нібито рекламує медичні препарати. Звичайно, це також негативно на ній позначається.
Про те, як редакціям реагувати на дипфейки з їхніми журналістками
Наталка Соколенко: На завершення нашої розмови хотілося б почути ваші поради як дата-аналітика для редакцій. Що з усім цим робити? Наскільки редакціям потрібно враховувати ризик того, що образи їхніх ведучих і телеведучих, а в перспективі, можливо, й інших журналістів, можуть використовувати для створення фейків?
Адже довіра до журналістів і журналістики, очевидно, вища, ніж до народних депутаток чи політикинь, які обіймають інші посади в нашій владі. Так уже історично склалося, достатньо подивитися на рейтинги.
Тому ця загроза існує для редакцій. Що ви порадите робити?
Сергій Міхальков: Перша порада — критично ставитися до всього, перевіряти інформацію й уважно придивлятися до контенту, особливо до відео.
До епохи розквіту штучного інтелекту ми звикли насамперед довіряти власним очам. А зараз бачимо, що цю систему теж можна обійти.
Якщо ви помічаєте, що образи журналісток вашої редакції експлуатують, потрібно реагувати. Звертатися до партнерів, до організацій, які постійно фіксують такі випадки, або самостійно звертатися до платформ із проханням видалити цей контент.
Наталка Соколенко: Ви маєте на увазі організацію «Жінки в медіа» та інші правозахисні організації?
Сергій Міхальков: Так. Найвідоміша в Україні — це «Жінки в медіа».
Вони ведуть власну базу таких інцидентів, постійно їх фіксують, а потім комунікують із платформами та журналістами, щоб розв'язати проблему й підтримати постраждалу людину.
Наталка Соколенко: Мені цікаво, які інструменти можуть допомогти якомога швидше виявляти такі відео.
Наприклад, у мене є Google Alerts, але це трохи інше, адже він працює з текстовими матеріалами. Google знаходить згадки про мене або інших людей, які мене цікавлять, і я одразу отримую сповіщення.
А що стосується пошуку дипфейкових відео в тому ж тіктоку? Чи є інструменти, які варто негайно почати використовувати, якщо існує потенційна небезпека, що образ вашої колеги можуть використати таким чином?
Сергій Міхальков: Ні, на жаль. Це якраз одна з проблем таких платформ, як тікток. Вони не дуже зручні для пошуку подібного контенту. Ми, наприклад, шукали відео за тегами, підписами та назвами каналів. Якщо зараз ввести в пошуку тіктоку слово «петиція», можна натрапити на відео, у якому нібито йдеться просто про петицію, але насправді використано образ журналістки. А ось інструментів для такого цілеспрямованого пошуку у відкритому доступі, на жаль, немає.
Нагадаємо, в попередніх випусках подкасту «Медіуми» говорили з Наталією Лигачовою про 25 років історії видання «Детектор медіа», Дмитром Тіщенком про те, чи може штучний інтелект докорінно змінити управління редакцією, Ольгою Айвазовською про те, як захистити виборчий процес від російського втручання, Галиною Петренко про те, Чому українські медіа дедалі рідше розповідають про життя на ТОТ, Сергієм Савелієм про те, чи готові українські медіа до перших повоєнних виборів, Юрієм Самусенком про те, чому українська кінокритика залишається розмовою всередині індустрії, а не з глядачем, Лєною Чиченіною про те, як пройшла «Тисячовесна» та через що сперечалася кіноіндустрія, Веронікою Поляковою про медіа, що руйнує міф про Одесу як проросійське місто, Оленою Брайченко про те, чому в Україні досі майже немає гастрономічної журналістики, Ольгою Тищук про те, що українськомовні серіали вперше випередили російськомовні, Дмитром Хрипуном про те, як стримінгові платформи змінюють українське телебачення, Юлією Смирновою із Holywater Tech про вертикальні серіали, Юлією Тимошенко з Ukraїner про те, як говорити з іноземною аудиторією так, щоб нас почули й правильно зрозуміли.
Цей матеріал було підготовлено за фінансової допомоги Європейського Союзу. Зміст цього документа є виключною відповідальністю ГО «Детектор медіа» і за жодних обставин не може розглядатися як такий, що відображає позицію Європейського Союзу.
Подкаст про історії, в які нас втягує медіаіндустрія з Наталкою Соколенко та Вадимом Міським. Слухайте також на Apple Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та RSS.

Подкаст про те, як захиститися від дезінформації за допомогою навичок інформаційної та медіаграмотності. Слухайте на Apple Podcasts, Spotify, MEGOGO Audio, NV Подкасти, SoundCloud, Amazon Music, YouTube Music, YouTube та RSS.
Озвучуємо найкращі тексти, що виходять на шпальтах «Детектора медіа». Якщо ви не встигаєте прочитати все цікаве, то тепер можна нас послухати! Слухайте також на Apple Podcasts, Spotify, MEGOGO Audio, NV Подкасти, SoundCloud, YouTube Music, YouTube та RSS.
Подкаст про історії, в які нас втягує медіаіндустрія з Наталкою Соколенко та Вадимом Міським. Слухайте також на Apple Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та RSS.
Подкаст виходив від перших повномасштабного вторгнення у 2022 році до липня 2024 року. У ньому Вадим Міський викривав найбільш резонансні російські фейки, вкиди та шайхрайські схеми, які використовує ворог, а також лунали поради з медіаграмотності та цифрової безпеки. Подкаст-переможець аудіопремії «СЛУШНО» в номінації «Найкраще журналістське розслідування» за вибором аудиторії у 2022 році. Слухайте також на Українському радіо, Apple Podcasts, YouTube, Google Podcasts, MEGOGO Audio, NV Подкасти, Spotify, SoundCloud та RSS.













