Інструменти ШІ, які створюють і поширюють рейджбейт без людського нагляду та керування, нормалізують ворожу комунікацію у цифровому середовищі.
Провокативні запитання або твердження у Threads на кшталт «Люди із ЗП $1500, як ви виживаєте?», відео у Tiktok, де блогер готує страву, свідомо псуючи продукти, політично поляризовані припущення у X — подібні повідомлення не завжди містять прямі образи, однак обурюють користувачів, підштовхують їх сперечатися між собою. Чому? Бо кидають виклик їхнім переконанням про світ, певні групи людей, власні можливості, подеколи посягають на відчуття безпеки. Такий контент — рейджбейт (rage-bait, rage-baiting, «культивування гніву» або «приманка для гніву») — створюють свідомо, хоча часом автор може видаватися наївним або невігласом в очах аудиторії. Мета досить прагматична — збільшити охоплення й кількість підписників на сторінці, «сподобатися» алгоритмам, які рекомендують обговорюваний контент, а подеколи й заробити на платформах.
Останні роки рейджбейт додатково створюють і поширюють інструменти генеративного ШІ. Що найцікавіше — без людського нагляду і керування. Таку тенденцію на сервісі запитань-відповідей Quora помітив Роб Ковер, професор з цифрових комунікацій Мельбурнського королівського технологічного інституту, коли спільно з колегами досліджував прояви онлайн-ворожнечі в австралійських цифрових культурах й вивчав досвід і погляди різних користувачів, модераторів та зацікавлених сторін на цю проблему.
Довідка: Quora заснували у 2009-му двоє колишніх співробітників Facebook. Перші роки сервісом активно користувалися провідні працівники технологічного сектору, науковці та дослідники-аматори. Вони надавали високоякісні відповіді й порушували інтелектуальні теми. З часом аудиторія Quora суттєво зросла, і на платформі ставало дедалі більше провокаційного контенту, а висококваліфіковані «старожили» дедалі менше брали участь в обговореннях. Останні роки автори мають змогу монетизувати свій контент: платформа нараховує їм кошти, коли платний підписник сервісу читає або взаємодіє з їхніми ексклюзивними відповідями. До речі, після повномасштабного російського вторгнення на платформі можна побачити багато запитань про російсько-українську війну: її причини, перебіг, ставлення до російської мови в Україні.
Що виявив дослідник?
Роб Ковер досліджував онлайн-ворожнечу на Quora з 2020 року крізь призму певних тем. Одна із них стосувалася Меган Маркл, оскільки на платформі повсякчас жваво обговорювали британську королівську родину, а громадська думка про герцогиню Сассекську була дуже поляризованою. Дослідник відзначає, що у рейджбейтних запитаннях регулярно згадувалися расове походження, кар’єра, філантропія, шлюб та материнство Маркл. У деяких запитаннях, на думку Ковера, навмисно неправильно згадували її титул («принцеса Меган»), оскільки тоді було найбільш імовірно отримати дуже гнівні відповіді від користувачів, які її не люблять і заперечують її статус дружини британського принца.
Оцінюючи джерела рейджбейтних запитань про Меган Маркл, дослідник виявив, що деякі із них створив Quora Creator Tools. Це генератор запитань, який працює на базах великих мовних моделей. Quora запустила цей інструмент у 2023-му, аби залучати трафік на сайт та спонукати користувачів регулярно створювати контент. Оскільки Quora не публікує ім’я автора запитання, інші користувачі, не провівши додаткової перевірки, можуть не побачити, що його згенерував ШІ.
В обліковому записі Quora Creator Tools можна подивитися запитання, які він згенерував за останні 3 години 15 хвилин. Щоб визначити, наскільки часто цей інструмент продукує рейджбейт, Ковер проаналізував дві вибірки запитань по 180 хвилин у червні та вересні 2025-го. Виявилося, що за три години у червні Quora Creator Tools AI додав 3188 запитань, у вересні — 2960. У червні він найбільше згенерував запитань про тварин (13,90 %) та військову справу (13,29 %), у вересні — про стосунки (16,15 %) і музику (13,21 %).
В обох вибірках дослідник визначив запитання, які ймовірно були рейджбейтними: 27 (0,84 %) та 16 (0,55 %) відповідно. Ось деякі приклади:
- Яку роль відіграє дезінформація у формуванні думки виборців під час виборів, у яких беруть участь суперечливі кандидати на кшталт Трампа?
- Як пояснити дітям, чому когось суперечливого та звинуваченого у правопорушеннях переобрали президентом?
- Чи слід притягувати вчителів до відповідальності за висловлення особистої думки в соцмережах, особливо коли йдеться про таких політичних діячів як Чарлі Кірк?
Якщо розглядати середнє значення між двома вибірками як тенденцію, то Quora Creator Tools може генерувати 1200 рейджбейтних запитань на тиждень без людського нагляду та керування.
Чому ШІ створює рейджбейт?
Quora Creator Tools працює на базі великих мовних моделей, тому він, найімовірніше, відтворить те, що статистично представлено в наборі навчальних даних, в тому числі рейджбейтні запитання. Оскільки цінностей як таких в інструментів генеративного ШІ немає, вони не можуть без вказівки оцінювати дані з етичної точки зору. Якщо модель не запрограмована спеціально відфільтровувати негатив, вона сприймає рейджбейт як ще один статистичний патерн, який можна копіювати.
Раніше в онлайн-середовищі рейджбейт могли поширювати умовно кілька людей задля утримання уваги, і цей контент виділявся на фоні інших. ШІ ж не має жодного зиску з цих дій — він просто масштабує завчені патерни й заодно перетворює ворожість на стандартний та звичний формат комунікації. Адже пересічний користувач Quora, який звик швидко споживати контент, навряд чи стане перевіряти, хто написав запитання — людина чи бот, тому, найімовірніше, сприйматиме ШІ-запитання як людські.
Використання ШІ на платформах на кшталт Quora є стратегічним інструментом економіки уваги, де важливо залучити якнайбільше аудиторії й заробити на цьому. Оскільки рейджбейт краще утримує увагу користувачів, ніж нейтральний або позитивний контент, ШІ-генератори запитань переймають цю деструктивну модель як найбільш «ефективну». Хоча розробники можуть не програмувати ШІ на зло безпосередньо, інтеграція алгоритмів у бізнес-моделі, що ігнорують етику заради охоплень, призводить до системного загострення цифрової ворожості та руйнування культури цивілізованого спілкування.
На думку Роба Ковера, потрібні нові підходи до державного регулювання ШІ, оскільки закони не охоплюють шкідливий контент, створений без участі людини. Автор ставить перед законодавцями критичні питання: чи поширюється свобода слова на згенеровані машиною тексти, на якому етапі необхідне втручання (під час навчання даних чи коли розробки використовують треті сторони), чи зобов’язані платформи маркувати ШІ-контент.
Проблема і в тому, що контроль над мовою ворожнечі фактично залишається в руках самих платформ, бізнес-моделі яких фінансово виграють від активності, спровокованої рейджбейтом. Тому автор пропонує розширити поняття «цифрової шкоди», змістивши фокус з індивідуальних образ на шкоду від рейджбейту для усієї цифрової екосистеми. Такий підхід дозволить регулювати ШІ не просто як інструмент передачі даних, а як фактор, що безпосередньо впливає на безпеку глобального інфопростору.
«Майстерня інформаційної стійкості» створена в межах проєкту з медіаграмотності для людей старшого віку (60+), який реалізує Український інститут медіа та комунікації в партнерстві з DW Akademie за фінансової підтримки Федерального міністерства економічного співробітництва та розвитку Німеччини (BMZ).
Головне зображення: Jonas Leupe / Unsplash