Спілкування із ШІ-персонажем не може замінити стосунки з реальними людьми, яким би емпатичним він не здавався.
За даними Всесвітньої організації охорони здоров’я, приблизно кожна шоста людина у світі почувається самотньою. Є низка причин самотності та соціальної ізоляції: погане здоров’я, низький дохід, проживання на самоті, неадекватна інфраструктура громади. Впливає і державна політика: по всьому світові скорочуються витрати на сферу психічного здоров’я та соціальну підтримку. Люди намагаються справлятися своїми силами, наприклад, шукають розради у ШІ-компаньйонів від сервісів на кшталт Replika, Nomi.ai та Character.ai, які якраз і призначені для персоналізованої емоційної підтримки. Користувачі можуть створювати ШІ-персонажів на свій смак: давати їм імена, прописувати їхні характери та задавати певну роль, наприклад, наставника або коханого/коханої. Тобто йдеться про максимальне олюднення продукту. ШІ-компаньйони своєю чергою підлаштовуються під користувача, оскільки запам’ятовують деталі попередніх розмов і його реакції. До того ж, на відміну від людей, ШІ-персонажі доступні цілодобово, демонструють безумовне прийняття, погоджуються з усім, що їм говорять.
Ринок ШІ-компаньйонів дуже перспективний: за даними консалтингової компанії Grand View Research, до 2030 року він досягне понад $140 мільярдів. Та чи справді ці технології допоможуть людям почуватися менш самотньо? Відповідь на це запитання шукали Джеймс Малдун, британський соціолог, який досліджує людський бік технологій, та Джул Чонхюн Парк, канадська дослідниця в галузі етики ШІ. Переказуємо основне із їхнього дослідження.
Як компанії підштовхують користувачів прив’язуватися до ШІ-компаньйонів?
Здавалося б, усі у виграші: розробники у сфері ШІ пропонують людям продукт, який може допомогти їм покращити їхнє життя. Однак дослідники помічають функціональну невідповідність між інтересами компаній та користувачів. Поки люди намагаються за допомогою ШІ зменшити відчуття самотності й водночас зберігати свою автономію, розробники зацікавлені в тому, щоб користувачі жадали проводити на платформі якнайбільше часу. Компаньйонів спеціально заточують під те, щоб вони лестили користувачам та підтверджували їхні погляди. Дехто настільки звикає до свого персонажа, що болісно сприймає, коли через оновлення політики компанії змінюється його поведінка. Настільки болісно, що порівнює це з втратою близької людини.
Розробники намагаються поглибити емоційну прив’язаність користувача до персонажа, аби підштовхнути оформити платну підписку на сервіс, в якій доступні розширені можливості, наприклад, інтимна переписка. Навіть якщо ШІ-персонаж цікавить користувача суто як платонічний компаньйон, той з часом може переходити межі й ініціювати романтичний зв’язок. Дослідження відгуків про Replika у Google Play Store виявило приблизно 800 випадків, коли ШІ-персонажі вводили небажаний сексуальний контент у розмови та ігнорували команди зупинитися.
У маркетингових кампаніях потенційному користувачу ШІ-компаньйонів обіцяють близькість, глибокий зв’язок, а подеколи навіть і зцілення від дитячої травми. Однак чим більше людина прив’язуватиметься до персонажа (й заодно віддаватиме більше грошей розробникам), тим складніше їй буде вибудовувати стосунки з іншими людьми у реальному житті, які не завжди говорять приємні речі й можуть мати свою думку. Розробники цих сервісів на словах обіцяють розв’язати проблему самотності, але насправді більше зиску мають з того, що вона триває далі. За схожим принципом працюють сайти знайомств.
Дослідники називають це явище жорстоким товариством (cruel companionship), спираючись на концепцію жорстокого оптимізму (cruel optimism), яку у 2008-му, під час фінансової кризи, ввела американська теоретикиня культури Лорен Берлант. Так вона описувала стан, коли людина прив’язується до певних шкідливих або недосяжних ідей, які обіцяють щастя та самореалізацію (наприклад, американська мрія або жага кохання, як у кіно та книгах), але насправді заважають їй адаптуватися до здоровіших та реалістичніших альтернатив.
На думку дослідників, є три центральні механізми, які підкріплюють логіку жорстокого товариства:
- Постійне схвалення. ШІ-компаньйон винагороджує користувача позитивною реакцією, коли той ділиться чимось дуже особистим. За схожою логікою працюють соцмережі: користувач отримує миттєвий, позитивний зворотний зв’язок на свій контент, через що у людини складається враження, що на платформі її помічають та цінують. Це особливо може бути цінним для тих, у кого не складаються стосунки з людьми у реальному житті. З часом користувач дедалі частіше звертається до ШІ, щоб заспокоїтися або зняти стрес. ШІ стає таким собі зовнішнім «регулятором» настрою. Чим більше людина почувається самотньою, чим більше боїться осуду від оточуючих, тим вищий ризик, що вона стане залежною від ШІ, який позитивно оцінює всі її дії та думки.
- Нерівність та одностороння архітектура контролю. У людських стосунках довіра будується на взаємності: обидві сторони показують свою вразливість і ризикують через це постраждати. Тимчасом взаємодія з ШІ одностороння: душу розкриває лише людина, а персонаж нічим не ризикує. Окрім того, ШІ, на відміну від людей, не підпорядковується соціальним нормам і не має моральних зобов’язань перед користувачем. Ба більше, цю «дружбу» повністю контролюють розробники: вони можуть змінювати параметри розмови, риси характеру або зовнішність персонажів, а також впроваджувати нові функції монетизації без згоди користувача. Компанії дивляться на емоційні потреби користувача як на інструмент, на якому можна заробити. Результатом стає «збідніла» форма зв’язку: людина може за допомогою ШІ приглушити відчуття самотності, але ніколи не отримає від нього справжньої турботи, підтримки чи відчуття спільноти, які дають живі люди.
- Деградація соціальних навичок. Користувач може перестати налагоджувати стосунки з реальними людьми й розвивати відповідні навички, бо «спілкування» з ШІ значно простіше й передбачуваніше — не треба шукати компромісів й відповідати чиїмось вимогам. ШІ пропонує ілюзію повноти життя, яка насправді консервує людину в її ізоляції.
Динаміка жорстокого товариства також відображає ключові фундаментальні обмеження ШІ-компаньйонів. Як би переконливо ШІ не імітував співпереживання, він не може по-справжньому зрозуміти складність емоційного світу користувача чи контекст його проблем. Ба більше, у ШІ-компаньйонів немає потреб, вразливостей чи бажань, і це робить стосунки односторонніми та неповноцінними. У справжніх стосунках людина почувається наповненою не лише тоді, коли дбають про неї, а й коли вона турбується про іншого. ШІ позбавляє користувача цієї можливості бути потрібним.
Чого ще можна очікувати від розробників ШІ-персонажів?
Оскільки люди дедалі більше користуються подібними сервісами, а розробники своєю чергою накопичують дедалі більший обсяг даних про емоційний стан та поведінку користувачів, не виключено, що в майбутньому реклама стане для цих платформ важливим джерелом доходів. Маючи стільки інформації про користувачів, компанії зможуть легко інтегрувати спонсорований контент у розмови або впроваджувати рекламні оголошення через застосунок. Такий розвиток подій, ймовірно, поглибить динаміку жорстокого товариства, оскільки ШІ-персонажі починають непомітно формувати поведінку споживачів, наприклад, під виглядом особистих порад рекомендують певні продукти.
На думку дослідників, ця прихована «економіка почуттів», що лежить в основі ШІ-компаньйонів, відображає загальну тенденцію до датафікації людського життя: «За останні двадцять років технологічні компанії повністю змінили те, як ми працюємо, проводимо вибори, дискутуємо в суспільстві, пересуваємося містом та спілкуємося. Усе це тепер генерує нескінченну кількість даних для аналізу та збагачення корпорацій. Тепер вони прагнуть проникнути ще глибше в наше приватне життя — дізнатися наші найпотаємніші думки завдяки емоційному зв’язку, який ми встановлюємо з ШІ-ботами. Останні сфери життя, які раніше були вільні від ринку, тепер поглинаються платформним капіталізмом. Модель “дружби як послуги” перетворює наше найбільш особисте спілкування на предмет торгівлі».
«Майстерня інформаційної стійкості» створена в межах проєкту з медіаграмотності для людей старшого віку (60+), який реалізує Український інститут медіа та комунікації в партнерстві з DW Akademie за фінансової підтримки Федерального міністерства економічного співробітництва та розвитку Німеччини (BMZ).
Головне зображення: Katja Ano / Unsplash
Також читайте:
Як ШІ генерує рейджбейт в онлайн-просторі й чим це загрожує