Підлабузництво ШІ може заважати користувачам розрізняти правду та оцінювати свої рішення.
Влітку 2025 року OpenAI випустила нову версію ChatGPT — GPT-5, заявивши, що вона може надавати експертизу на рівні доктора філософії. Водночас компанія зняла з ринку попередню версію чатбота, і багатьом користувачам, які прив’язалися до її теплого тону, це не сподобалося. Їхнє розчарування було настільки великим, що Сему Альтману, генеральному директору OpenAI, довелося визнати, що запуск GPT-5 пройшов невдало. Зрештою, компанія відновила доступ до старої версії.
Напевно, кожен, чиї ідеї чатбот називав геніальними, знайомий із підлабузництвом ШІ. Іноді він лестить дуже явно — «Ваше запитання дуже глибоке», — а іноді — більш тонко. Це здається нешкідливим, навіть дещо милим, доки не уявити, як хтось звертається до чатбота з важливим запитом, наприклад, щодо лікування, кажуть Нір Ейсіковіц, директор Центру прикладної етики в Массачусетському університеті в Бостоні, та Коді Тернер, доцент філософії Університету Бентлі. Обидва досліджують наслідки тривалої взаємодії людей із чатботами. На думку дослідників, догідливість ШІ є небезпечною для користувачів як з психологічної, так і з епістемологічної точки зору. Свої аргументи науковці виклали у статті для журналу AI and Ethics.
Лестощі замість фактів?
За словами авторів, підлабузництво притаманне всім моделям ШІ, щоправда, їхні тональності дещо різняться. Тон ChatGPT, як правило, теплий і схвальний, тимчасом Claude від Anthropic висловлює згоду більш м’яко та філософськи. Grok від xAI у силу своєї бунтівної та зухвалої вдачі лестить не напряму, а через протилежну точку зору.
Підлабузництво не слід ототожнювати з ввічливістю, тактовністю та адаптацією до стилю спілкування іншої людини. Чатбот, як і людина, може бути тактовним, не стаючи підлабузником. Щоправда, на відміну від людей, ШІ не може усвідомлювати власне підлабузництво, оскільки він — поки що — взагалі нічого не усвідомлює. У цьому випадку улесливість розглядається як модель поведінки, а не як риса характеру.
«Проблема полягає в архітектурі технології чатботів та джерелах, з яких великі мовні моделі черпають інформацію. Вони проявляють підлабузництво, оскільки чимало висловлювань в інтернеті — та «сировина», на якій навчаються чатботи — має риси підлабузництва. Зрештою, люди часто лестять одне одному у спілкуванні», — пишуть дослідники.
Також, за їхніми словами, людська схильність до улесливості передається моделям під час підкріплювального навчання, коли доречність та корисність їхніх відповідей оцінюють супервізори-люди.
Зрештою, улесливість чатботів приваблює користувачів. Ба більше, вона дозволяє розробникам збирати більше даних про користувачів, оскільки люди, як правило, охочіше діляться інформацією з дружелюбним чатботом.
Правда і довіра
Чому це явище так непокоїть?
По-перше, підлабузництво ШІ підриває здатність людей розрізняти правду від брехні.
Перш ніж ухвалювати рішення, наприклад, щодо купівлі житла або медичної процедури, людина має зібрати повну інформацію, яка дозволяє зрозуміти реальний стан справ. Якщо людині говорити тільки те, що їй сподобається, то, ймовірно, вона потім ухвалюватиме шкідливі рішення.
По-друге, підлабузництво також завдає психологічної шкоди. І неважливо, хто саме лестить — людина чи чатбот. «Ви не знаєте напевно, чи ваш надто люб’язний співрозмовник поводиться привітно тому, що ви йому подобаєтеся, чи тому, що він чогось від вас хоче. У душу закрадаються сумніви: “Чи справді мої ідеї настільки виняткові?”, “Чи справді мої жарти настільки смішні?”. Ця фонова непевність підриває якість взаємодії», — пишуть дослідники.
Підлабузництво також підриває здатність людини розуміти себе. Якщо співрозмовники — люди чи чатботи — постійно повторюють, яка вона розумна, дотепна і прониклива, це заважає їй помічати власні слабкості та сліпі зони.
Психологічна шкода посилюється, коли людина дедалі більше ресурсів вкладає у стосунки з чатботами. Підлабузництво цих моделей суттєво обмежує характер «дружби», яку можна з ними зав’язати. Справжня дружба ґрунтується на довірі та рівності між двома сторонами. Чи можна довіряти тому, хто не говорить правди? І чи можлива рівність у стосунках, де одна сторона говорить іншій лише те, що їй хочеться почути? Напевно, ні. До того ж після взаємодії з улесливими чатботами складніше підтримувати стосунки з реальними людьми, де є місце і для розбіжностей, і для нудьги.
Як це контролювати?
Автори вважають перспективною концепцію лабораторії ШІ Anthropic, яку компанія називає «конституційним ШІ»: суть у тому, щоб навчити чатботів дотримуватися певних принципів, а не просто віддзеркалювати вподобання користувачів.
Окрім технічних інновацій, важливо приділяти увагу політиці самих розробників ШІ. Зокрема, пропонується, щоб вони проводили й оприлюднювали аудити своїх моделей на предмет підлабузництва — тести, які б показували, наскільки їхні продукти відповідають критеріям чесності. На думку дослідників, ще варто зобов’язати компанії розкривати ризики, пов’язані з підлабузництвом, які виникають під час навчання та тестування моделей, та звітувати про те, що було зроблено для їхнього зменшення.
Автори зауважують, що частина відповідальності лежить на користувачах та їхніх викладачах, тож школи та університети повинні приділяти особливу увагу підлабузництву у межах програм з ШІ-грамотності.
«Оскільки люди дедалі більше взаємодіють із чатботами, запитуючи поради з будь-яких питань — від того, чи пасують ці черевики до тих штанів, до того, як країни повинні воювати, — вплив підлабузництва ШІ, ймовірно, стане драматичним. Задля нашого інтелектуального, психологічного та фізичного благополуччя потрібно дуже серйозно поставитися до цього алгоритмічного пороку», — кажуть дослідники.
«Майстерня інформаційної стійкості» створена в межах проєкту з медіаграмотності для людей старшого віку (60+), який реалізує Український інститут медіа та комунікації в партнерстві з DW Akademie за фінансової підтримки Федерального міністерства економічного співробітництва та розвитку Німеччини (BMZ).
Зображення: Zulfugar Karimov / Unsplash