ШІ дозволяє поширювати дезінформацію на платформах швидше, дешевше та більш таргетовано, ніж раніше. Варто інформувати аудиторію про ці можливості ШІ через цікаві історії та кейси.
27 листопада Український інститут медіа та комунікації провів міжнародну конференцію «Код довіри: інформаційна стійкість в часи війни та штучного інтелекту», яка об’єднала експертів, журналістів, вчителів, викладачів, бібліотекарів, представників громад/органів місцевого самоврядування та інших стейкхолдерів у темі медіаграмотності. Учасники четвертої панелі обговорювали, як ШІ впливає на поширення дезінформації та що можуть робити медіа в таких умовах.
Сесію модерувала Альона Романюк, засновниця та головна редакторка фактчекінгового проєкту «НотаЄнота».
Конференція організована громадською організацією «Український інститут медіа та комунікації» у партнерстві та за фінансової підтримки DW Akademie, Федерального міністерства економічного співробітництва та розвитку Німеччини (BMZ), представництва ЮНЕСКО в Україні за підтримки уряду Японії, Проєкту Ради Європи «Захист свободи слова та свободи медіа в Україні», IMS, у партнерстві з Національною радою України з питань телебачення та радіомовлення. Погляди, висловлені під час заходу чи у публікаціях про захід не обов’язково збігаються з офіційною позицією партнерів.
Публікуємо нотатки з панелі, а переглянути повністю відео з конференції можна на YouTube-каналі УІМК.
Як ШІ впливає на поширення дезінформації
«Зараз ми входимо в новий медіаландшафт, де ШІ вплетений за потребою чи без потреби в інтерфейс майже кожної платформи. Якщо ще кілька років тому наші студенти використовували перший ChatGPT для пошуку інформації, то зараз великі мовні моделі вмонтовані в пошукові сервери, і дуже часто ми спочатку отримуємо підсумки, згенеровані ШІ, а потім вже можемо подивитися їхнє походження. І, звичайно, що Росія вже кілька років систематично займається маніпуляцією цих великих мовних моделей. Згадаймо Pravda — дезінформаційну мережу сайтів, які маскуються під новинні ресурси та заражають російськими наративами західні чатботи на основі ШІ», — каже Ольга Бойчак, директорка Лабораторії комп’ютерних соціальних наук на факультеті мистецтв та соціальних наук у Сіднейському університеті.
Юлія Дукач, медіааналітикиня OpenMinds, каже, що ШІ дозволяє поширювати дезінформацію ще швидше та дешевше («не треба тримати штат людей, достатньо одного навіть непрограміста»), а що найважливіше — таргетовано (йдеться як про персоналізованість повідомлень, так і про те, що платформи допомагають доставляти ці повідомлення до вузьких аудиторій). Як все це працює, Юлія пояснює на прикладі поведінки російських ботів в телеграмі, яку нещодавно вивчала команда OpenMinds: «Спершу ми дослідили секцію коментарів в 110 телеграм-каналах, пов’язаних з тимчасово окупованими українськими територіями. Виявили там 3634 ботів, які з січня 2024-го до квітня 2025-го згенерували понад 316 тисяч проросійських коментарів. Ще понад три мільйони коментарів ці боти опублікували за межами нашої вибірки. Вони працювали в різних темах та адаптували свої повідомлення під кожен пост».
Дослідники припустили, що боти можуть себе проявити і в інфополі Молдови, яка готувалася до парламентських виборів. Команда OpenMinds проаналізувала 88 найпопулярніших політичних та новинних телеграм-каналів Молдови, у яких відкритий розділ коментарів. У 76 із них виявили 462 ботів. З 1 липня до 15 вересня ці акаунти опублікували 62 000 повідомлень — це 12,8 % від усіх коментарів. Боти переважно критикували проєвропейські сили, намагалися дискредитувати президентку Молдови Майю Санду, закликали голосувати за проросійські партії та виходити на антиурядові протести.
Три чверті з цих акаунтів були активними в російських та українських телеграм-каналах, пов’язаних із прокремлівськими воєнкорами та «Вагнером». «На прикладі Молдови ми бачили останню версію цієї ботоферми, яка генерує унікальні коментарі під кожен окремий допис, дискутує з реальними людьми на платформі і доносить проросійські наративи, повністю керовані ШІ. Боти зараз абсолютно вільні у своїй діяльності, особливо коли йдеться про проросійські телеграм-канали, які залишають коментарі відкритими та не модерують їх. На жаль, ці дезінформаційні операції ускладнюються і щоб виявляти їх, недостатньо вже шукати якісь дублі-коментарі — треба розробляти алгоритми теж на основі ШІ», — каже Юлія Дукач.
За її словами, багато із тих, хто ознайомився зі згаданими дослідженнями, доти вважав, що боти — це люди, і це неабияк її здивувало. «Напевно, навіть у межах базової медіаграмотності треба пояснювати, на що спроможні алгоритми, посилені ШІ, та наскільки легко та швидко можна імітувати громадську думку», — каже Юлія.
Ольга Бойчак зауважує, що стають дедалі якіснішими і дипфейки, тож користувачам буде дедалі важче розпізнати підробку. «Весь контент в соцмережах треба сприймати з певною долею скептицизму. Однак нам важливо не займати позицію тотальної недовіри до всього побаченого у соцмережах, адже вони є ключовим джерелом новин для громадян, особливо для молоді й останнім часом для старших верств населення», — каже Ольга.
Тетяну Авдєєву, старшу юристку ГО «Лабораторія цифрової безпеки», ще неабияк турбує можливість використовувати дипфейки в режимі реального часу. Експертка згадує, як на початку повномасштабного вторгнення зловмисники, прикинувшись Віталієм Кличком, зідзвонилися по зуму з мерами кількох європейських столиць. Відтоді, за її спостереженнями, провайдери платформ для відеоконференцій, в тому числі Google Meet, Zoom, Teams, так і не запропонували адекватної протидії таким випадкам.
Тетяна Авдєєва також звертає увагу на більш неочевидні способи використання ШІ в контексті дезінформації та маніпуляцій: «За допомогою ШІ можна генерувати фішинг. Думаю, всім хоча б час від часу приходять на пошту листи, починаючи від «ви тисячний користувач, який зайшов на сайт, будь ласка, перейдіть за посиланням, щоб отримати приз» і закінчуючи більш витонченими речами. Наприклад, журналістам і громадським активістам неодноразово приходили запрошення на заходи, присвячені темам, які їм близькі. У таких випадках не виникає відразу думки, що щось може піти не так. Щоб потрапити на цей захід, ви маєте перейти за посиланням і зареєструватися в гугл-формі, залишивши свої контактні дані. Але при реєстрації у вас чомусь просить логін і пароль від входу в ваш гугл-акаунт. Нібито логічно. Але що це означає на практиці? Ви просто залишаєте свої дані, які потім використовуватимуть зловмисники. Така генерація інтернет-шахрайств, що дуже чітко заточені під групи населення, які роблять суспільно корисну роботу, — дуже небезпечна річ».
На думку Ольги Бойчак, грань між так званим справжнім контентом і контентом, згенерованим ШІ, зараз дуже розмита. «Фотографії, які користувач робить, наприклад, на iPhone, піддаються певній цифровій обробці. Можна сказати, що вони догенеровані ШІ. Тобто немає такої зараз межі, що ми можемо встановити правдивість [такого контенту]. Це також виклик», — зазначає Ольга.
Хоча тема ШІ обговорюється широко вже три роки і не лише в контексті дезінформації, системного навчання ШІ у багатьох компаніях ще немає, ділиться спостереженнями Олексій Мінаков, консультант із впровадження та використання генеративного ШІ: «Більшість на початковому етапі. Обмаль запитів “ми вже поекспериментували, хочемо вийти на більш просунутий рівень”. Зрозуміло, що самі співробітники так чи інакше щось тестують, оплачують якісь сервіси, але системності немає. Коли до мене приходять із запитом “навчіть нас ШІ”, я запитую, чи є у них план, чи знають, куди вони збираються взагалі рухатись, у яку точку прийти. Цього бачення немає».
Як взаємодіяти з платформами, щоб зменшити вплив дезінформації
Майже всі компанії, які розробляють ШІ або керують платформами, де поширюється дезінформація, згенерована ШІ, зареєстровані в США, ЄС. За таких умов Україні буде складно зобов’язати компанії дотримуватися вимог українського законодавства та платити штрафи в разі порушення, вважає Гордій Румянцев, член Експертного комітету з ШІ при Міністерстві цифрової трансформації України. На його думку, більш дієвий шлях — комунікація та партнерство з техногігантами: «Попри численні позови проти Facebook, інших компаній на рівні ЄС, на рівні США, вони все одно певною мірою залишаються відкритими до співпраці із державами. Цьому сприяє і те, що всередині таких великих бізнесів є певна бюрократія: в них дуже багато внутрішніх процедур, політик, етичних бордів».
«Мені здається, що все одно потрібні якісь інфраструктурні рішення, бо за всіма [компаніями, які займаються ШІ] не уженешся. І далеко не всі хочуть з українцями вести діалог. І не на всіх у нас, на жаль, є виходи. Але я погоджуюся, що з тими, хто з нами хоче розмовляти, безперечно, потрібно це робити», — каже Тетяна Авдєєва.
На її думку, у держави мають бути різні підходи до добросовісних компаній, які готові до діалогу і переймаються за свою репутацію, та до тих, кого не хвилюють етичні стандарти. Першим — м’які рішення та рекомендації, другим — жорсткі інструменти.
Що робити медіа та аудиторіям, аби захиститися від дезінформації
Юлія Дукач зауважує: як би не хотілося ділити платформи на хороші та погані, насправді будь-яка з них може нести за собою багато ризиків. Наприклад, Twitter після зміни власника вийшов з добровільного Кодексу практики ЄС щодо дезінформації, а Meta, яка здається більш-менш відповідальною платформою, прогнозувала, що 10 % її доходів у 2024-му надійде від реклами шахрайства та заборонених товарів (про це свідчить звіт Reuters). Згадує медіаналітикиня і книгу Careless People: A Cautionary Tale of Power, Greed, and Lost Idealism, в якій колишня співробітниця Facebook Сара Вінн-Вільямс, зокрема, описала, як платформа відслідковувала емоційний стан підлітків та використовувала ці дані для таргетингу. Юлія радить журналістам і всім, хто працює зі спільнотами, через подібні історії та емоційні кейси пояснювати аудиторії, які різні ризики її оточують в цифровому житті.
На думку Олексія Мінакова, у турбулентні кризові часи — а зараз саме такі — найкраще інвестувати в освіту. Він радить читати книжки, розширювати кругозір на тему ШІ, підписатися на лідерів думок у сфері ШІ, щоб слідкувати за останніми новинами, та бути відкритим до нового.
Гордій Румянцев та Ольга Бойчак наголошують на важливості медіаграмотності. Зокрема, на думку Ольги, цифрове навчання потрібне молодій аудиторії: «Важливо молоді освоїти ці технології, пробувати генерувати свій контент за допомогою ШІ, аби побачити його можливості та краще зрозуміти цей ландшафт».
«Медіаландшафт стільки разів мінявся і ще стільки мінятиметься, що всі ці проблеми мені здаються прохідними. Гадаю, нам просто треба тримати руку на пульсі, аби розуміти, з чим ми маємо справу, та адаптуватися до цього. Також важливо добре робити те, що ми вміємо робити, і нести за це відповідальність», — вважає Тетяна Авдєєва.
Фото: Євген Педін