Редакція «Текстів» дослідила, як ШІ допомагає пропагандистам масштабувати роботу в мережі «TikTok». Журналісти виявили тікток-ферму з 300 каналів, які після автоматизованої обробки видавали чужий ютуб-контент за власний і водночас поширювали російську пропаганду. 

Які інструменти потрібні для виявлення таких ферм, чого слід вимагати від тіктоку щодо модерації контенту, аби істотно зменшити можливості для роботи пропагандистів на платформі, — про це ведучі подкасту «Медіуми» Наталя Соколенко та Вадим Міський поговорили з Юлією Дукач, керівницею відділу досліджень дезінформації у виданні «Texty.org.ua». Випуск виходить у рамках спецсезону «Відсіч дезінформації».

Підписатися на подкаст «Медіуми» можна на Apple Podcasts, Google Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та інших подкастингових платформах.

00:00 «Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці»;

05:30 «Штучний інтелект — це не негативна річ. Це не зброя проти демократії»;

08:08 «Коли США почали погрожувати заборонити тікток, платформа почала співпрацювати з Україною»;

10:10 «ТіkТоk зробив перший крок у напрямку покращення політик модерації на своїй платформі»;

16:14 «Хтось узяв найпопулярніші канали в ютубі, у яких немає тіктоку, і переніс їх туди, щоб заробляти чи поширювати дезінформацію»;

17:22 «Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в TikTok».

«Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці»

Вадим Міський: Команда «Текстів» нещодавно розповіла про виявлену «ферму» із 300 каналів у тіктоку, які після автоматизованої обробки видавали відео з ютубу за власний контент. І там є російська пропаганда. Якщо ми поглянемо на тікток в цілому, то як часто там трапляється російська пропаганда? 

Юлія Дукач: Російська пропаганда трапляється абсолютно на всіх соціальних платформах і в соціальних мережах. Принцип роботи машини з виробництва російської дезінформації працює так, що пропагандисти пробують усі можливі шляхи і всіма можливими шляхами поширюють свої наративи, тези, фейки, маніпуляції тощо. Залежно від того, наскільки добре налаштовані алгоритми модерації на тій чи тій платформі, складається ситуація, як у телеграмі — заповнення платформи дезінформацією — або як у випадку з Meta — маленьке представлення з окремими випадками.

Мережа «TikTok» — це сіра зона. Ще нещодавно не співпрацювала з українським урядом, але цієї весни почалась активізація співпраці. У перші два роки після початку повномасштабного вторгнення російська пропаганда зайшла на тікток дуже активно. Якщо ви цікавитеся соціально-політичним контентом і платформа пропонує схожі відео на цю тему, то ви легко можете отримати російські медіа, ви можете отримати російських політиків або псевдоукраїнські облікові записи, які насправді створені росіянами для поширення антиукраїнських тез.

Вадим Міський: Яку роль тут відіграє штучний інтелект? Чи може він істотно спростити роботу пропагандистів?

Юлія Дукач: Штучний інтелект масштабує їхню роботу і робить її набагато дешевшою, ніж було раніше. Наприклад, раніше вам треба було посадити декілька людей, які управляють десятками акаунтів так званих ботів, тролів. Тобто за ними стояли люди, які, наприклад, писали якесь повідомлення і потім копіпастом його розносили від імені різних акаунтів. Раніше було дуже легко знаходити мережі ботів, тому що ми беремо це повідомлення і шукаємо ідентичні. Але станом на сьогодні той же ChatGPT і подібні великі мовні моделі дали можливість одній людині написати одну тезу і сказати: «Перефразуй і дай мені 100 варіантів цієї тези для коментарів у соцмережі». І виходить, що без алгоритмів досліджувати таку мережу стає набагато важче, бо ми шукаємо не ідентичні тексти, а шукаємо схожі меседжі.

«Штучний інтелект — це не негативна річ. Це не зброя проти демократії»

Наталка Соколенко: А як? Це теж є відповідне якесь програмне забезпечення? 

Юлія Дукач: На щастя, ми майже п'ять років досліджуємо пропаганду за допомогою машинних алгоритмів. Ми щотижня моніторимо десятки тисяч російських новин, заганяємо їх усі в алгоритми. Алгоритм видає, наприклад, 300 тем, про які писали пропагандисти. Є так званий алгоритм моделювання тем, який дозволяє автоматизовано поєднувати однакові меседжі, написані різними словами. Штучний інтелект — це не негативна річ. Це не зброя проти демократії, а інструмент, яким можуть користуватись обидві сторони.

Наталка Соколенко: Чи є прості в застосуванні інструменти для тих, хто користується цими соціальними мережами, щоби самостійно ставити собі фільтр на свою сторінку, наприклад, у фейсбуці? Щоб фейсбук блокував повідомлення з пропагандистськими російськими наративами чи ролики у тіктоку, які несуть оцю заразу?

Юлія Дукач: З тіктоку насправді доволі важко. Якщо ми говоримо про те, щоб установити щось, що допомогло би фільтрувати контент, то для ютубу на ноутбуці ми можемо поставити у Google Chrome розширення, яке буде фільтрувати і не даватиме, не рекомендуватиме нам відео російською мовою. Але проблема в тому, що воно прекрасно працює на ноутбуці, як розширення на Google Chrome. Усе, що ми споживаємо з телефона — тут орієнтуємося тільки на етичні принципи та політики тієї платформи, якою ми користуємося. Якщо фейсбук доволі непогано фільтрує агресивну російську дезінформацію, там не «віщають» Симоньян чи «РИА Новости», то TikTok лише нещодавно заблокував «РИА Новости» для українців. У грудні минулого року ми досліджували, який контент нам видає TikTok за нейтральними хештегами. Ми підбирали хештеги, які не асоціюються з війною, і ми бачили, що відео від «РИА Новости» активно потрапляли до результатів пошуку в TikTok. Уже, на щастя, такого немає. І без VPN українці вже подивитися не можуть «РИА Новости». І отримати їх у списку рекомендацій теж.

«Коли США почали погрожувати заборонити тікток, платформа почала співпрацювати з Україною»

Вадим Міський: Сполучені Штати вирішили вдатися до радикального кроку — створили законодавчу рамку для потенційної заборони тікток. Чи сприяє це більш охочому реагуванню власника платформи, китайської компанії ByteDance, на запити урядів?

Юлія Дукач: Мені здається, що в той момент, коли США почали погрожувати заборонити тікток, платформа почала співпрацювати з Україною. Це лише моя здогадка. Я не можу сказати про причинно-наслідкові зв'язки, але зараз тікток дуже активізував роботу над політиками. Є прекрасна новина: в кінці травня тікток опублікував нову політику на своїй платформі, він маркує канали, які контрольовані державами. «ТАСС», «РИА Новости» отримали плашку: медіа, контрольовані Росією. Тобто будь-хто, хто відкриває цей акаунт, може побачити, що це не є незалежне медіа, а що це медіа контролюється російським урядом.

Вадим Міський: Я думаю, що з «ТАСС» і «РИА Новости» інтрига якраз невелика. А що робити з купою начебто «окремих незалежних блогерів», які відкриваєш, а у них той же самий «ТАСС», тільки з обличчям юного блогера?

Юлія Дукач: З незалежними блогерами складніше. Але перший крок було зроблено: майже 50 акаунтів у тіктоку, які були промарковані як контрольовані Росією медіа, заблокували для видачі в рекомендаціях за межами Росії.

«ТіkТоk зробив перший крок у напрямку покращення політик модерації на своїй платформі»

Наталка Соколенко: Тобто на весь світ «РИА Новости» втратило можливість напряму говорити від імені російської держави?

Юлія Дукач: «РИА Новости» — це дрібниця. А ось Russia Today французькою, іспанською або RT в Японії, або Sputnik, у яких аудиторія була за межами Росії — відтепер можна подивитися тільки за умови, якщо користувач сам на них підпишеться. Якщо ви дивитеся те, що вам пропонує тікток, так звана стрічка «For You», то там RT не має з'являтися тепер. Ми зараз досліджуємо кількість переглядів на цих каналах, наскільки вони впали чи не впали. Якщо не впали — це означає, що заборона працює погано, їх продовжують дивитися за межами Росії. Якщо впали, то це буде маленька історія успіху. Я сподіваюся, що найближчі тижні у нас вийде аналітика, де ми покажемо, як маленька зміна політик тіктоку може вплинути на зменшення аудиторії російської пропаганди, яка працює відкрито. На жаль, на блогерів, які маскуються під незалежних, але насправді поширюють російські наративи, це не вплине. Але сподіваємося, що тікток зробив перший крок у напрямку покращення політик модерації на своїй платформі.

Вадим Міський: Це блискуча новина. І хочеться, звісно, щоб на цьому не завершувалися дії назустріч адекватному модеруванню. Що ще може зробити тікток для того, аби обмежити вплив російської пропаганди, поза переліком контрольованих державою медіа?

Наталка Соколенко: Або навпаки: до чого цивілізований світ, уряди демократичних країн можуть спонукати тікток у цьому керунку?

Юлія Дукач: Ми спостерігаємо за політиками, які розробляють у Європейському Союзі, тому що вони попереду всієї планети, розробляють способи зробити великі платформи більш прозорими, підзвітними. Щоб вони несли відповідальність за те, що, наприклад, їхні алгоритми погано модерують контент. У нас маленький успіх — це Digital Service Act. Ми бачимо, що завдяки політикам ЄС у тіктоку є бібліотека реклами. У ній ми бачимо, що на тікток нема тих, хто паразитує на темі війни в Україні, можемо шукати за ключовими словами, обрати країну та подивитися всю рекламу, яку TikTok опублікував, охоплення цієї реклами за цими ключовими словами в цій країні за обраний період. Це маленький приклад того, що тікток ніколи би не зробив подібний інструмент, якби цього не вимагав Європейський Союз. Наприклад, за межами Європейського Союзу бібліотека реклами тіктоку не працює, навіть для тих країн, де ця реклама публікується.

У тіктоку основна задача — не демократію поширювати чи навіть китайський вплив, а все-таки заробляти гроші. Це якраз той приклад, що нам варто розробляти політики, щоб зробити ці платформи більш прозорими. Зараз TikTok іде в напрямку маркування штучно згенерованого контенту. Тут я повертаюся до теми нашого розслідування — станом на зараз це маркування все ще відсутнє. Насправді ще є багато питань, як саме це маркуватимуть, адже бачимо, що різні інструменти, створені на базі ШІ, вже використовуються для масштабізації російських наративів. Ми знайшли ферму з трьохсот каналів, які крадуть ютуб-контент російськомовних блогерів, нарізають їх на шматки й перетворюють їх на вертикальний формат. Ці канали мають однаковий опис каналу: «Підпишіться на мене, щоб у мене було більше мотивації робити ці відео». Вірогідно, це одна людина за допомогою алгоритмів просто качає контент з ютубу, перетворює, нарізає і заливає в тікток без допомоги десятків людей, бо стільки треба людей, щоб реально вести триста каналів.

«Хтось узяв найпопулярніші канали в ютубі, у яких немає тіктоку, і переніс їх туди, щоб заробляти чи поширювати дезінформацію»

Вадим Міський: І весь цей контент — дезінформація?

Юлія Дукач: Ні, десь до двадцяти каналів насправді були конспірологічно-дезінформаційними. Ми вийшли на цю мережу, бо побачили, що серед цієї ферми була маріупольська блогерка, яка робить відео на кшталт «із подвала Маріуполя в небо Москви», де описує свій досвід подорожей Росією, яка «велика Росія» прийшла — «порядок» у Маріуполі навела. Ми знайшли спочатку її, а потім побачили, що в такому ж стилі оформлені канали з рецептами або канал російського блогера, який ходить на сміттєзвалище та вишукує там скарби. Об'єктивно тут не те, що інфовійська сиділи й масштабували ці дезінформаційні наративи, скоріше хтось просто взяв найпопулярніші канали в ютубі, у яких немає тіктоку, і переніс їх туди, щоб заробляти чи поширювати дезінформацію.

«Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в тіктоку»

Наталка Соколенко: Чи потренуватися, наприклад?

Юлія Дукач: Або, як ми сміялися, може, це хтось робив свою дипломну роботу, назбирав 90 тисяч лайків для маріупольської блогерки, ще й у тіктоку. На щастя, не всі 300 каналів поширюють дезінформацію, але водночас усі ці 300 каналів, які там ведуться умовно однією людиною, назбирали більш ніж 10 мільйонів лайків і ще більше переглядів. І вони все одно несли, масштабували, зокрема, конспірологію, дезінформацію або російський імперіалізм. Ми знайшли конкретно цей приклад, не чистий прояв роботи інфовійськ Росії, але який дуже гарно підсвічує, що це легко зробити, платформа проти цього поки що нічого не робить. Поки власник ютуб-каналу не поскаржиться — тікток не буде видаляти це. Якби мені одне з тих відео вилізло в рекомендацію, я би ніяк не змогла відрізнити, що це за допомогою ШІ згенеровано, модифіковано або що це викрадений контент. Це маленьке розслідування розставило дуже багато червоних прапорців стосовно недоліків алгоритмів модерації в тіктоку.

Наталка Соколенко: Як можна використати результати розслідування Texty.org.ua? Наприклад, український уряд міг би якось скористатися вашими висновками і вийти на переговори з платформою «TikTok»? Чи це необхідно робити, особливо зараз, в умовах війни? Як сказав наш співрозмовник в одному з попередніх випусків подкасту «Медіуми» Іван Киричевський, що Росія веде проти нас тотальну війну й інформаційну зокрема. Інформаційні інструменти розглядає так само потужними, як удар там КАБами чи ракетами.

Юлія Дукач: Мені здається, що наш маленький приклад цього розслідування підсвічує проблему неавтентичної поведінки в тіктоку. Це цікаво для колег-журналістів, бо ми ділилися тим, як можна досліджувати цю неавтентичну поведінку. Нам, наприклад, допомагав просунений гугл-пошук, який допомагає знаходити відповідний контент саме на платформі «TikTok» за цитатами, через описи каналів ми фактично й вийшли на цей список. Мені здається, важливо актуалізувати цю проблему для наших колег за кордоном, які доволі спокійні, бо у них немає прямого ворога, як у нас. Але вони живуть у середовищі, яке також має цілеспрямовані інформаційні впливи і кампанії. В цьому випадку це було проти України, але ж ми розуміємо, що дуже багато кампаній іде й проти демократії, проти демократичних урядів, кандидатів на виборах, яких теж активно дискредитують такими методами.

Нагадаємо, подкаст «Медіуми» запустив спецсезон «Відсіч дезінформації». Поряд зі звичними випусками ведучі подкасту Наталя Соколенко та Вадим Міський запрошують експерток та експертів із питань російської пропаганди та стратегічних комунікацій. У попередніх випусках спецсезону говорили з Лесею Бідочко та Юлією Пархоменко про дослідження «Медіаландшафт на тимчасово окупованих територіях України», з Артемом Захарченком про те, що таке національний наратив і чому він має лишитися тільки один, з Альоною Романюк про методи роботи російських пропагандистів в українському інформпросторі, з Галиною Петренко про Індекс медіаграмотності українців, рівень уміння свідомо сприймати й критично тлумачити інформацію, з Іваном Киричевським про те, чому не слід довіряти жодному російському медіа, зокрема, «ліберальним», з Наталією Іщенко про базовий принцип спростування фейків: не лише спростування, але й поширення правди, з Любов'ю Цибульською про те, як говорить українська держава із власним народом та світом, з Ігорем Соловʼєм про роботу Центру стратегічних комунікацій та інформаційної безпеки під час війни та перспективи «інформаційного Рамштайну» для протидії пропаганді.

Також рекомендуємо: подкаст «Детектор медіа говорить», у якому ми начитуємо найцікавіші статті та рецензії, що виходять на сторінках нашої групи онлайн-видань. Якщо у вас не вистачає часу на читання, ви можете просто слухати нашу аудіоверсію. Підписуйтеся на подкаст та отримуйте доступ до найцікавіших матеріалів «Детектора медіа» у зручному для вас форматі.

Колаж: «Детектор медіа»