Редакція видання «Тексти» провела дослідження «Карусель емоцій», яке розкриває рівень маніпуляцій у найпопулярніших телеграм-каналах, що читають українці.

Як навчають штучний інтелект виявляти маніпулятивні техніки? Чому багато телеграм-каналів обирають емоційний та агресивний стиль мовлення, а аудиторія охоче їх читає? І чи варто українцям довіряти всьому, що вони бачать у телеграмі? Про все це ведуча подкасту «Медіуми» Наталя Соколенко поговорила з Наталією Романишин, NLP-дослідницею видання «Тексти».

Підписатися на подкаст «Медіуми» можна на Apple Podcasts, Spotify, SoundCloud, MEGOGO Audio, NV Подкасти, YouTube Music, YouTube та інших подкастингових платформах.

00:00 «Більшість інтернету — англомовна, українських матеріалів дуже мало. Через це ШІ-моделі мають обмежене уявлення про наш український контекст»;

03:18 «Ми “згодували” дані мовній моделі, щоб вона навчилася виявляти маніпуляції»;

04:55 «У нашій редакції більшість людей уміє програмувати, адже ми займаємося дата-журналістикою»;

06:13 «Люди в телеграмі переважно читають новинні агрегатори й блоги, а офіційні редакційні канали не читають»;

10:25 «Мова телеграму в більшості каналів значно відрізняється від мови інтернет-медіа. Вона більш різка, емоційна»;

12:43 «Люди схильні сприймати більш емоційний контент, ніж сухий і нейтральний»;

14:43 «“Труха” частіше маніпулює навантаженою емоційною мовою, щоб відвернути нашу увагу від чогось, що не хоче висвітлювати»;

19:29 «У проросійських телеграм-каналах рівень маніпулятивності складає від 70 до 100% — це дуже високий показник»;

21:32 «У деяких випадках використання емоційного забарвлення виправдане. Це відповідає реаліям війни»;

23:40 «Методи для маніпуляцій, ймовірно, можуть ставати складнішими. Це гра вдовгу»;

25:52 «Коли людям кажуть, що канал маніпулює або дезінформує, вони чують і далі читають, бо думають, що здатні самостійно це визначити».

«Більшість інтернету — англомовна, українських матеріалів дуже мало. Через це ШІ-моделі мають обмежене уявлення про наш український контекст»

Наталя Соколенко: Редакція «Текстів» опублікувала велике дослідження про те, як вони натренували штучний інтелект, щоб виявляти різні прийоми маніпуляцій? і проаналізувала на предмет маніпулятивності 100 найпопулярніших телеграм-каналів в Україні. Зрозуміло, що ці канали ведуть не лише українські автори. Бо це телеграм-канали, які з різних причин найбільше читають українці. Поговорімо про те, як ви «дресирували» штучний інтелект для цього завдання — дослідити маніпуляції та рівень маніпулятивності телеграм-каналів. Чи можете пояснити, що означає «натренувати штучний інтелект»?

Наталія Романишин: Перш за все розповім, навіщо взагалі нам потрібно було тренувати власну модель штучного інтелекту, а не використовувати готові моделі, як-от ChatGPT або Gemini від Google тощо. Такі моделі мають великі здібності, вміють виконувати велику кількість задач, якісно спілкуються українською та іншими мовами. Проте вони натреновані на великій кількості даних, по суті, їм «згодували» весь інтернет, і вони мають загальне уявлення про ситуацію у світі. Але основна проблема — це їх англоцентричність. Більшість інтернету — англомовна, українських матеріалів дуже мало. Через це моделі мають обмежене уявлення про наш український контекст. Відтак, такі моделі не можуть якісно розв’язувати поставлені перед ними завдання для української аудиторії.

«Ми “згодували” дані мовній моделі, щоб вона навчилася виявляти маніпуляції»

Наталя Соколенко: Тобто ви штучному інтелекту «згодували» ці 100 найпопулярніших в Україні телеграм-каналів?

Наталія Романишин: Це вже сталося на етапі використання моделі. Але для тренування моделі ми спершу мали зібрати датасет — набір даних із певними лейблами. Наприклад, для кожного допису в телеграм-каналі було зазначено, чи є він маніпулятивним і які техніки маніпуляцій у ньому присутні. Для цього потрібно було запустити процес анотування дописів: зібрати команду анотаторів, навчити їх, провести тренінги, перевірити їхні анотації, розробити методологію. Це була найдовша частина нашої роботи. Після отримання якісних анотованих даних ми «згодували» їх мовній моделі, щоб вона навчилася виявляти ці маніпуляції.

Наталя Соколенко: На якій платформі ви працювали?

Наталія Романишин: Ми використовували мову програмування Python і різні відкриті платформи, які дозволяють орендувати обчислювальні ресурси. Адже для тренування таких моделей потрібні потужні обчислювальні ресурси. Наприклад, ми використовували найменшу з сучасних моделей, яка налічує 8 мільярдів параметрів. Це потребує значного обсягу оперативної пам’яті комп’ютера. Тому ми використовували відкриті платформи, де можна за невелику плату орендувати ці ресурси, щоб запустити чи «натренувати» модель.

«У нашій редакції більшість людей уміє програмувати, адже ми займаємося дата-журналістикою»

Наталя Соколенко: Для цього потрібно в редакції мати відповідних журналістів чи не тільки журналістів, інженерів програмування? Кого ще треба мати?

Наталія Романишин: Я в редакції є NLP-дослідницею. Це фахівець, який має достатньо знань у програмуванні. Моя освіта — комп’ютерні науки й мені цікаво застосовувати ці знання для суспільно корисних проєктів. У нашій редакції більшість людей уміє програмувати, адже ми займаємося дата-журналістикою. Це коли фахівець уміє писати, завантажувати й аналізувати дані, створювати інфографіку тощо.

Наталя Соколенко: Розшифруймо абревіатуру NLP, що це означає?

Наталія Романишин: NLP — це обробка природної мови, підгалузь штучного інтелекту. Вона дозволяє машинам розуміти, інтерпретувати та генерувати людську мову. Це застосунки на кшталт Grammarly, перекладачів DeepL, Google Translate чи ChatGPT і Gemini. Це все продукти, які розробляють NLP-дослідники.

«Люди в телеграмі переважно читають новинні агрегатори й блоги, а офіційні редакційні канали не читають»

Наталя Соколенко: Що ви виявили після того, як «натренували» штучний інтелект і проаналізували контент 100 найпопулярніших українських телеграм-каналів? Я би хотіла, щоб ви назвали підбірку каналів і які в них автори з України та які не українці.

Наталія Романишин: Ми проаналізували 100 найпопулярніших каналів в Україні: 50 із категорії «Новини й медіа» і 50 із категорії «Політичні блоги». Вибірку каналів ми взяли зі списку аналітичного сервісу Telemetrio станом на 1 вересня. Вони публікують рейтинги найпопулярніших каналів за різними показниками. Ми брали — за кількістю підписників. У нашій вибірці були новинні агрегатори на зразок «Трухи», «Доброго вечора, ми з України», «Київ Оперативний». Туди також увійшли державні джерела інформації: канал Зеленського, СБУ, Офіс Президента, канали голів ОДА/ОВА. Тобто найбільше в нас є новинних агрегаторів і блогерських каналів, потім значно менше йде державних. І доволі велика частка проросійських каналів.

Як ми знаємо, що вони проросійські? Ми їх визначали за списком, який опублікував Кібердепартамент СБУ разом із Центром протидії дезінформації. Це, наприклад, канали «Резидент», канал Дубінського тощо. Хоч Telemetrio визначає їх за локацією як український канал, але якщо зайти на канал — одразу видно, що йде російська повістка, проросійські наративи, російською мовою. Інколи вони пропонують рекламу в рублях — очевидно, що це російський канал.

У добірку 100 найпопулярніших телеграм-каналів ще увійшла невелика кількість справжніх медіа, які дотримуються чи намагаються дотримуватися журналістських стандартів, мають редакцію, відомо, хто ними керує тощо. З таких каналів у нас потрапило лише три, на жаль. Це лише підкреслює проблему: люди переважно читають новинні агрегатори й блоги, а офіційні редакційні канали не читають. Хотілося б, щоб їх було більше, але така реальність. До цього списку потрапили «Суспільне» — наш «золотий стандарт», і модель це підтвердила. Це гарна новина, що він потрапив. Також до добірки увійшли канали «ТСН» та «УНІАН». Такий вибір з офіційних редакцій дуже показовий. Але варто розуміти, що кількість читачів справжніх медіа і великих агрегаторів значно різниться. Наприклад, у тієї ж «Трухи» 2,5 мільйона підписників — це найпопулярніший канал у категорії «новинні агрегатори», тоді як «Суспільне Новини» — 290 тисяч (ця кількість не враховує мережу місцевих телеграм-каналів Суспільного — «ДМ»).

Наталя Соколенко: У мене є ще одне питання про кількість підписників. Я розумію, що це не предмет цього дослідження, але запитаю вас: раптом у вас є якась думка щодо цього. Чи можуть ці показники бути накрученими?

Наталія Романишин: Звісно, що можуть. Ніхто ж не знає, як справді люди заходять на ці канали й чи там є реальні люди чи певна частка ботів. Ми не можемо знати точну кількість якісних читачів, можемо орієнтуватися лише на загальну статистику.

«Мова телеграму в більшості каналів значно відрізняється від мови інтернет-медіа. Вона більш різка, емоційна»

Наталя Соколенко: Загалом статистика, звісно, сумна. У добірку 100 каналів, які читають українці, входить лише три канали, які ведуть редакції. І, як ви правильно сказали, «Суспільне» — це «золотий стандарт». А от до телеграм-каналів «ТСН» та «УНІАН», де містяться астрологічні прогнози — питань багато. Чи може бути так, що саме через такий розклад рейтингу провідних каналів, де є лише три редакційні канали, а все інше — це блогери й агрегатори, які використовують маніпулятивну мову і цим виводять себе на лідерські позиції? Чи все-таки це через якісь інші причини, на ваш погляд?

Наталія Романишин: Я думаю, що це точно впливає. Ми розуміємо, що мова телеграму в більшості каналів значно відрізняється від мови інтернет-медіа. Вона більш різка, емоційна, повідомлення значно коротші, що часто позбавляє читача контексту чи доказів. І коли люди читають повідомлення в такому форматі, у них складається враження, що вони спілкуються з другом ніби за сімейною вечерею. Це викликає бажання підписатися й далі читати новини в такому форматі, бо їх сприймати значно легше, це не потребує багато зусиль для аналізу. На відміну від сухого, нейтрального повідомлення, де потрібно самому скласти висновок. Тут людина вже прочитала емоційно наповнене повідомлення й автоматично переймає думку, яку цей блогер вклав. У підсумку вона несе цю думку далі у свої дії.

Звісно, ці маніпулятивні техніки часто допомагають блогерам збільшувати аудиторію. І це не завжди погано, але читач має усвідомлювати, що може піддаватися подібним маніпуляціям, і продовжувати критично мислити.

«Люди схильні сприймати більш емоційний контент, ніж сухий і нейтральний»

Наталя Соколенко: Я переглядаю результати вашого дослідження. Якщо вже ви згадали про «Труху», то йдеться, наприклад, про те, що «Труха» надрукувала 3408 дописів за три місяці. І майже половина з них, а саме 45%, містила щонайменше один вид маніпуляції. Тобто через одне повідомлення йде повідомлення з маніпуляцією. Мені здається, це тривожна тенденція. Як ви думаєте, чому читачі самі не відсікають це, не бачать, не обурюються, що ними намагаються маніпулювати, не відписуються, не залишають телеграм?

Наталія Романишин: Важко зрозуміти причини кожної конкретної людини, але це пов’язано з тим, що такі новини споживати значно легше, бо не потрібно формувати свою думку щодо конкретних проблем, які висвітлюються. Також люди схильні сприймати більш емоційний контент, ніж сухий і нейтральний. Я заходжу на ту ж саму «Труху», читаю коментарі й бачу, що серед читачів є багато адекватних читачів, які їм пишуть, що ті використовують маніпуляції та що це неправда. Але чомусь вони залишаються читачами. Можливо, люди хочуть мати різні точки зору й тому читають канали різного типу — такий варіант теж можливий.

Інший варіант полягає в тому, що люди не бачать великої загрози в дезінформації та маніпуляціях. Вони вважають, що можуть визначити — де правда, і залишаються. На певному рівні їм це вдається, але на більш складному, глибшому рівні це вже не працює. І в такі «прогалини» в розумінні людей може проникнути пропаганда.

«“Труха” частіше маніпулює навантаженою емоційною мовою, щоб відвернути нашу увагу від чогось, що не хоче висвітлювати»

Наталя Соколенко: Пропоную заглибитися далі в приклад «Трухи», який ви дослідили. Ви розподілили дописи на: нейтральні, навантажені й емоційні, тобто написані мовою, що викликає як позитивні, так і негативні емоції. Наступні категорії — «блискучі узагальнення» й «ейфорія», що мобілізують аудиторію та підштовхують до невиправданого оптимізму. І ще одна категорія — апеляція до страху та сумнівів. Це найкорисніший для Росії прийом, оскільки він підриває довіру до українських інституцій. Посіяти страх і сумніви серед українців, дійсно, дуже вигідно для Росії. До речі, «Труха» була запрошена на пресконференцію президента України Володимира Зеленського. Проте у нашому подкасті «Медіуми» ми спілкувалися з Дмитром Литвином, радником із питань комунікації президента України, і він визнав, що це було помилкою — змішувати професійних журналістів і представників телеграм-каналів на одному майданчику, де мали би бути лише професійні журналісти.

Повернімося до цієї градації, прокоментуйте ці висновки: що люди читають на телеграм-каналі «Труха»?

Наталія Романишин: Хочу зауважити, що ми початково навчали нашу модель штучного інтелекту виявляти десять технік маніпуляції. Однак, наприклад, в аналізі цієї групи включено лише три. Основні десять технік, які ми обрали, поділяються на два підтипи: маніпуляції емоціями та маніпуляції аргументами.

Маніпуляції емоціями — легше виявляти, і ними легше користуватися. До них належить: навантажена мова, блискуче узагальнення, ейфорія, апеляція до страху, апеляція до сумнівів тощо. А маніпуляції аргументами — це техніки, які менш поширені, тобто їх було менше в тренувальних даних, вони рідше зустрічаються в нашому телеграмі. Відповідно, моделі важче їх виявляти. Тому в історію, викладену в цій статті, не включали конкретні приклади цих технік. Ці техніки включають вибіркову правду, так званий «репікінг», коли подаємо інформацію однобоко, не висвітлюємо тези, що її спростовують. Вона широко використовується, але для її виявлення потрібні контекст й інша сторона. Під час роботи над проєктом ми вирішили об’єднати схожі техніки для аналізу. Наприклад, «блискуче узагальнення» з «ейфорією», адже вони апелюють до позитивних емоцій, використовують подію для підняття бойового духу або ж експлуатують абстрактні поняття, такі як «свобода», «демократія», «правда», «порядок», щоб викликати сильні емоційні реакції на кшталт солідарності, що є характерним для «блискучого узагальнення». Ми також об’єднали «апеляцію до страху» зі «страхом, невпевненістю та сумнівами». Адже це є підвидом техніки «апеляції до страху», коли ми використовуємо наявний страх або певні упередження, щоб спрямувати їх на свою користь.

З-поміж цих трьох груп технік найбільш деструктивною є апеляція до страху, адже саме її найчастіше використовує російська пропаганда для того, щоб сіяти страх і сумніви у владі, Силах Оборони, допомозі від міжнародних партнерів тощо. «Труха» показала, що вона не так часто використовує цю техніку. Тобто її цілі дещо інші, не спрямовані на російську пропаганду. Вона частіше маніпулює навантаженою емоційною мовою, щоб відвернути нашу увагу від чогось, що не хоче висвітлювати. І так само «блискуче узагальнення» й «ейфорія» в них рідко використовуються, адже ці техніки більш притаманні державним каналам, які застосовують їх для підняття морального та бойового духу людей.

«У проросійських телеграм-каналах рівень маніпулятивності складає від 70 до 100% — це дуже високий показник»

Наталя Соколенко: Погоджуюся з вами, що статистично виходить, що «Труха» рідше апелює до страху й сумнівів, особливо якщо порівнювати з контентом, який українці читають на російських каналах, не усвідомлюючи, що це російські канали. Наприклад, у вашому дослідженні є детальний розбір каналу «Резидент», де апеляція до страху й сумнівів набагато більша: 67% публікацій мали на меті посіяти в українців сумнів і страх. Розкажіть трохи більше про рівень маніпуляцій, який ви виявляєте в проросійських телеграм-каналах, які, на жаль, читають українці?

Наталія Романишин: Якщо дивитися на наш матеріал, там є графік, де показано рівень маніпулятивності цих каналів. На осі X відображено рівень маніпулятивності, кожна точка — це окремий канал. Ми бачимо, що проросійські телеграм-канали чітко групуються в правому кутку графіка, де рівень маніпулятивності складає від 70 до 100% — це дуже високий показник. Українські телеграм-канали, навіть новинні агрегатори, не перевищують 55% маніпулятивності. Тобто насиченість зовсім інша.

Проте є канал «Политика Страны» — канал, який належить заблокованому в Україні проросійського медіа «Страна.UA». У нього рівень маніпулятивності становить 20%, що дуже мало. Але чи робить це його адекватним медіа? Звісно, що ні. Видно, що «Страна» намагається мімікрувати під виважене українське медіа, менше використовує маніпулятивної лексики. Однак це не означає, що канал не поширює проросійські наративи чи дезінформацію. Наша модель шукає саме маніпулятивні мовні техніки, але вона не аналізує конкретну дезінформацію чи наративи.

«У деяких випадках використання емоційного забарвлення виправдане. Це відповідає реаліям війни»

Наталя Соколенко: Поговорімо ще про Суспільне. Тут є дуже цікава інфографіка, яка показує, що абсолютна більшість дописів є нейтральними щодо маніпуляцій. І лише 2% з 2800 дописів містять маніпулятивні елементи. Що ви думаєте про ці два відсотки? Це в межах статистичної похибки чи авторам телеграм-каналу варто над цим працювати?

Наталія Романишин: Треба розуміти, що емоційні мовні маніпуляції, які ми шукали, не завжди погані. Наприклад, навіть ті, які використовує влада, не обов’язково є пропагандою чи дезінформацією. Це мовні техніки, які впливають на сприйняття інформації, трохи спотворюючи реальність. Наприклад, часто використовуються ейфоричні, блискучі узагальнення, що можуть формувати надмірні очікування. Згадаємо історії про «перемогу за два-три тижні» або очікування від торішнього контрнаступу. Люди сподівалися на багато, але реальність виявилася іншою, що призвело до певного розчарування чи депресивних настроїв у суспільстві.

Утім, у деяких випадках використання емоційного забарвлення виправдане. Наприклад, слово «знищено», коли йдеться про ворожу техніку, має емоційне забарвлення, але це відповідає реаліям війни. Тому в Суспільного є 2% маніпулятивних елементів, бо використовуються більш емоційно забарвлені слова, які логічно застосовувати, описуючи воєнну реальність.

«Методи для маніпуляцій, ймовірно, можуть ставати складнішими. Це гра вдовгу»

Наталя Соколенко: Поговорімо про медіаграмотність. Як ви вважаєте, чи зросте медіаграмотність українців завдяки програмам у середній і вищій школах, а також іншим ініціативам для різних соціальних груп і вікових категорій? Чи будуть українці краще розпізнавати спроби маніпуляції та, відповідно, менше користуватися такими телеграм-каналами?

Наталія Романишин: Тут важлива ремарка, що такі маніпуляції можуть використовувати не тільки телеграм-канали. Це просто техніка, яку можна застосувати на іншій платформі, наприклад, у фейсбуці. У нас рівень маніпулятивних дописів зашкалює, і це стосується також твіттеру чи навіть ютубу, де люди під час розмови теж застосовують такі техніки. Тому це не залежить від платформи, але від того, наскільки людина обізнана з тим, що такі речі застосовуються, і як вона здатна їх виявляти. Якщо порівнювати, як про ту саму новину пишуть різні групи каналів, це вже допомагає побачити, де є сильне емоційне навантаження, де прихована думка чи навіть доказ. І так, люди, використовуючи цей простий метод, зможуть чіткіше це бачити. 

Я думаю, якщо підвищувати рівень медіаграмотності — це стане легшим. Але методи маніпуляцій, імовірно, можуть ставати складнішими. Тобто можна застосовувати інші, більш комплексні речі, які буде важче виявляти. Це гра вдовгу, тому потрібно постійно дізнаватися, які методи застосовуються, які наративи просуваються, щоб не піддатися цій пастці. Тобто не можна раз пройти курс із медіаграмотності й уже знати всі аспекти — це потрібно робити постійно.

Наталя Соколенко: Освіта протягом життя — це західний підхід, що стосується не лише медіаграмотності, а загалом принципу навчання протягом життя, щоб іти в ногу з часом.

«Коли людям кажуть, що канал маніпулює або дезінформує, вони чують і далі читають, бо думають, що здатні самостійно це визначити»

Наталя Соколенко: А кому насправді було б цікаво, крім нашої медійної спільноти, ознайомитися з цим дослідженням і різними рейтингами, які ви подаєте? Наприклад, рейтинг маніпулятивності за технікою «апеляції до страху і сумнівів», перше місце займає телеграм-канал «Женщина с косой» — апеляція до страху 89%. На четвертому місці канал «Dubinsky.pro» — 60% публікацій містять апеляцію до страху. І я думаю, якби цей матеріал роздати сімейним лікарям, невропатологам, психотерапевтам, які б питали своїх пацієнтів: «А ви читаєте телеграм-канали? Ага, читаєте. А ви знаєте, що там навіювання страху замість опори на об’єктивні факти, новини, професійні медіа? То, може, ви би це припинили?» Як вам така ідея?

Наталія Романишин: Це дуже цікавий підхід. На жаль, ми всі живемо у постійній тривозі та страху за своє життя. І це саме ті речі, які дуже легко використати на свою користь російським пропагандистам.

Наталя Соколенко: А загалом, на яку аудиторію ви розраховували цей матеріал?

Наталія Романишин: Нам було важливо підвищити загальну обізнаність аудиторії, сприяти критичному сприйняттю інформації читачів. Коли людям кажуть, що канал маніпулює або дезінформує, вони просто чують і далі читають, бо думають, що здатні самостійно це визначити. Тут людина прочитає про такі техніки, на які вона ніколи не звертала уваги й уже буде чіткіше їх відстежувати. Також, коли показуєш масштаб проблеми, наприклад, ми показали ці кола, де видно статистичний рівень маніпулятивності — це надає краще розуміння загальної картини, це може впливати на рішення людини читати той чи той канал.

Наталя Соколенко: Видання «Тексти» веде в нову еру журналістики, де штучний інтелект використовується не для того, щоб писати дурниці, а навпаки, для того, щоб ці дурниці й маніпуляції викривати. Мені здається, що на наших очах народжується надзвичайно цікавий жанр.

Нагадаємо, в попередніх випусках подкасту «Медіуми» говорили з Дмитром Литвином про «Укрінформ», «УП», телемарафон та «офреки» для журналістів, Тетяною Лебедєвою про залаштунки журналістського конкурсу «Честь професії» та роботу Комісії з журналістської етики, Крістіною Гаврилюк з Мінцифри про те, чи здатні DMA і DSA змінити правила гри на європейському ринку цифрових послуг, Олександром Педаном про співпрацю з Суспільним, новий проєкт замість «УніверCheck» та інші ідеї pedan|buro, Катериною Котвіцькою з MEGOGO Audio про аналіз поточної ситуації та трендів у сфері дистрибуції аудіоконтенту онлайн Філом Пухарєвим про феномен фільму «Яремчук. Незрівнянний світ краси», Кирилом Передрієм про те, як наймолодший журналіст України готується до інтервʼю з провідними політиками країни, Галою Котовою з Viber про те, як досвід роботи під час пандемії допоміг команді Rakuten Viber зростати після початку широкомасштабного вторгнення, Дмитром Хоркіним про те, як вплинула війна на розвиток радіо в Україні.

Також рекомендуємо: подкаст «Детектор медіа говорить», у якому ми начитуємо найцікавіші статті та рецензії, що виходять на сторінках нашої групи онлайн-видань. Якщо у вас не вистачає часу на читання, ви можете просто слухати нашу аудіоверсію. Підписуйтеся на подкаст та отримуйте доступ до найцікавіших матеріалів «Детектора медіа» у зручному для вас форматі.

Колаж: «Детектор медіа»