Чи можлива правда в епоху ШІ? Рецензія на книгу Харарі Nexus

Технології — те, що підсилює людство, і цю силу можна використати як із добрими, так із поганими намірами.

Роботи Ювала Ноя Харарі здебільшого цікавлять філософів, антропологів, істориків, проте остання його книга «Nexus. Коротка історія інформаційних мереж від кам’яного віку до ШІ» стосується усіх, хто вивчає комунікації.

Як книга Харарі може змінити усталений погляд викладачів журналістики на їхній предмет?

«Наївний» погляд на інформацію*

Люди загалом вірять, пише Харарі, що чим більше інформації вони мають, тим краще розуміють світ, тим сильнішими й мудрішими стають. Чим більше інформації — тим більше правди. Та останні десять-двадцять років інтенсивної цифровізації переконують: це все ж не так.

Пригадаймо, наскільки оптимістичними були ранні дослідження інтернету: мовляв, тепер кожен може вільно висловлюватися, диктаторам більше не вдаватиметься приховати правду… Харарі теж згадує таких оптимістів:

• «Голіафа тоталітарного контролю швидко переможе Давид-мікрочип» (Рональд Рейган)
• «Чим вільніше циркулює інформація, тим сильнішим стає суспільство» (Барак Обама).

Цей погляд на інформацію, який Харарі називає «наївним», поділяють і цифрові гіганти.

На ділі все не так просто. Так, пише автор, у кожного власника смартфона є доступ до сили-силенної інформації — більшої, ніж колись мала Александрійська бібліотека. Однак більша кількість інформації часто не допомагає, а заважає нам рухатися до правди.

*Тут і далі цитати із книги подані в перекладі авторки (за виданням Harari, Y. N. (2024). Nexus. A brief History of Information Networks from the Stone Age to AI. Signal, Penguin Random House Canada).

Інформація і правда

За словами Харарі, визначальна риса інформації не репрезентація реальності, а радше поєднання різних точок в мережу, таке собі упорядкування речей.

Тож інколи інформація краще і правдивіше відображає реальність, а інколи — гірше.

Згідно із Харарі, що гороскоп, що Біблія, що пропаганда — це інформація, яка поєднує різних людей, утворює спільноти, мережі. Ми, фахівці з медіа, зокрема медіаграмотності, звикли розрізняти якісну та неякісну інформацію і вчимо цього студентів. Неякісну інформацію, яка не є правдивою, ми відкидаємо та ігноруємо. Тому тут, звісно, з автором можемо і посперечатися. Хоча маємо визнати, що загалом люди ухвалюють рішення не на основі правдивої інформації, а на основі тієї, що їм до вподоби. Трамп із Путіним, думаю, тут є найяскравішими прикладами.

Історії поєднують, але не завжди задля хорошої мети

Далі у книзі йдеться про різні способи поєднання незнайомих між собою людей. Насамперед — це історії. Тих, хто вірить в ту ж історію, що й ми, сприймаємо як членів своєї родини.

Історія, на думку автора, утворює «інтерсуб’єктивну реальність». Вона існує тільки в межах спільнот, які в неї вірять. Такими реальностями є, наприклад, закони, гроші, боги. Держави зрештою. І кому, як не нам, українцям, це розуміти. А є історія про «Україну, створену Леніним», в яку вірять росіяни. Це об’єднує їх і надихає на геноцидну війну.

Харарі вважає, що історії мають кілька переваг над правдою. По-перше, правда складна, а історії прості. Тому легше, як-от Джей Ді Венс, повірити у сторіз про Україну, ніж дізнаватися про справжні причини конфлікту. По-друге, правда часто болюча та тривожна, а історії дозволяють уникнути неприємного.

Чи є правдивими документи?

Здавалося б, на відміну від історій, які у кожного свої, а тому не завжди правдиві, документи повинні містити перевірену інформацію. Це не обов’язково, пише Харарі, адже бюрократи, які опікуються документами, дбають більше про збереження порядку, ніж про правду.

Як приклад автор наводить історію свого дідуся Бруно, який народився у 1913-му в Чернівцях — на території Австро-Угорщини. У 1918 році місто перейшло до Румунії, яка у пізніх 1930-х перетворилася на фашистську диктатуру. На вимогу уряду, який вів антисемітську політику, кожен єврей у Румунії мав надати докази, що він народився на її території та має право на румунське громадянство. Ті, хто народився у Чернівцях, мали звернутися до архіву, і в такому разі треба було їхати до Відня чи Будапешту. Дідусь Харарі не зміг підтвердити громадянство, тому його звільнили з роботи. А після початку Другої світової у нього без належних документів був тільки один шлях — до газової камери. Бруно декілька разів намагався втекти з країни, але його ловили та заарештовували. Врешті у 1940 році йому вдалося сісти на пароплав до Палестини. Коли він прибув туди, його миттєво заарештували як нелегального мігранта. Через два місяці його поставили перед вибором: або залишитися у в’язниці, або вступити до британської армії та отримати громадянство Палестини. Тож він відслужив в армії та отримав документи.

Так, часом шаблони, які ми маємо заповнювати, цю реальність викривлюють. Або ж у документах нам доводиться створювати щось, що не має жодного смислу. Ми багато говоримо, що журналісти мають посилатися на офіційні джерела інформації й документи, та чи завжди ми враховуємо процес їхнього створення? Чи достатньо досліджуємо, наскільки правдивим є те, що бачимо в результаті?

Винайдення друкарського верстата — перемога чи зрада?

За словами Харарі, винахід Гутенберга загалом описано як тріумф: мовляв, так європейцям вдалося звільнитися від «задушливої хватки» католицької церкви та середньовічних забобонів. Подібне трактування повертає нас до наївного «більше інформації — більше правди». Насправді за допомогою верстату поширювали як наукові факти, так і релігійні фантазії, фейки та теорії змов. І «Молот відьом» — своєрідну методичку з розпізнавання та знищення «відьом» — теж.

Так і сьогодні через соцмережі та гаджети росіяни виправдовують повномасштабну війну та вбивства українців «змовою НАТО проти Росії».

Тому технології, які спрощують комунікацію — від глиняних табличок до месенджерів — можуть бути використані як для прогресу, так і регресу. Адже вони створюють ті самі «інтерсуб’єктивні реальності», в які вірять люди: для когось відьми були такими ж справжніми, як геліоцентрична модель Коперника.

Що робити, щоб перемагала правда?

Якщо інформація не веде до правди й не репрезентує її, якщо захопливі історії затуманюють розум мільйонам, а документи й технології не дозволяють закріпити достовірні повідомлення, чи має людство надію?

Про що б не йшлося, ми, медійники, звикли запитувати:

• Що доводить, що це правда?
• Чому ми беззастережно маємо цьому вірити?

Подібні запитання мають ставити не лише медіа. Харарі говорить, що як для науковців, так і для всього суспільства потрібні механізми самовиправлення. Вибори, наприклад, не гарантують демократії, їхні результати легко підробити, якщо не буде механізмів контролю. Також у демократичних суспільствах передбачається, що той, хто вибори виграв, може припускатися помилок. А от в авторитарних суспільствах це не працює, як і в популістів, які вважають, що тільки вони представляють народ і мають бути у влади. Вони «не можуть» програти вибори, бо раз програли — то вибори «вкрали», зауважує Харарі.

Аби визначити, наскільки близьким є суспільство до демократії, автор радить з виборів змістити фокус на можливість обговорити важливі питання. Проте і саме по собі обговорення ще не веде до демократії: «Демократії помирають не тільки тоді, коли люди не вільні говорити, а й тоді, коли вони не хочуть або не можуть слухати».

Ще один виклик для демократій — вистояти в часи суспільних потрясінь, коли нові, маргіналізовані раніше групи долучаються до дискусії й висувають свої вимоги. Як приклад Харарі наводить події 1960-х років: тоді рух жінок за свої права призвів до перегляду усталених гендерних ролей, а рух афроамериканців — до скасування сегрегації. Старі традиції руйнувалися, і у цей момент демократії були дуже слабкими. Автор попереджає, що ми стикнемося із чимось схожим дуже скоро, адже цифрові технології також дають право голосу усім, хто має доступ до мережі, у тому числі ботам, які генерують контент за допомогою ШІ.

Що спільного між фейсбуком та радіо в Руанді?

У 1994-му «Вільне радіо і телебачення тисячі пагорбів» у Руанді підбурювало до геноциду проти тутсі. Чи здатні на подібне цифрові технології?

«Технології тільки створюють нові можливості; але ми вирішуємо, який шлях обрати», — пише Харарі.

Так, на думку автора, фейсбук допоміг розпалити насильство проти рохінья в М’янмі. М’янманці, які реагували у соцмережі на заклики буддійського монаха Вірату переслідувати мусульман, зокрема рохінья, отримували в рекомендаціях більше подібного контенту. Адже завдання алгоритму — якнайдовше утримувати користувача на платформі.

«Бодай 1 % провини лежить на алгоритмах, це все одно перша в історії кампанія етнічної чистки, до якої частково призвело хибне рішення нелюдського розуму», — каже Харарі.

То що нас чекає далі, якщо із поширенням ШІ дедалі більше завдань контролює комп’ютер, а не людина?

Чим комп’ютери відрізняються від друкарського верстата?

Друкарські верстати не можуть працювати без людини. Вони допомагали людям об’єднуватися у мережі, але не створювали нових членів мереж.

Харарі пише, що у нинішніх мережах люди поєднані з комп’ютерами. Ті стають посередниками у нашій комунікації й навіть можуть контролювати її. Зараз вчені розробляють мережі, де між собою спілкуватимуться тільки комп’ютери. «Відтоді, як на Землі виникло життя… усі інформаційні мережі були органічними. Людські мережі — церкви, імперії — були також органічними… Інформаційні мережі, в яких домінуватимуть неорганічні комп’ютери, настільки відрізнятимуться від попередниць, що нам навіть важко це уявити», — пише Харарі.

У людей є механізми самовиправлення: якщо ми припустилися помилки, то можемо її виправити. Але якщо ми спочатку запустили алгоритм, а вже потім зрозуміли, що всередині є якийсь баг, може бути запізно щось змінити.

Цифровізація та кінець епохи приватності

Окрім того, за цифрових часів ми перебуваємо під загрозою постійного стеження, звертає увагу Харарі. Наприклад, в Ірані за допомогою технологій відстежують, чи жінки носять хіджаб. Якщо вони порушують цей припис, їм на телефон миттєво приходить попередження. Ще одне — і жінка не може користуватися своїм авто протягом 15 діб. Іранок через подібні порушення можуть виключати з університетів, відмовляти в доступі до банківських послуг та громадського транспорту.

Тож завдяки цифровим технологіям авторитарні режими отримують майже необмежені можливості у стеженні за своїми громадянами. Але й в демократичних суспільствах можуть бути схожі проблеми, якщо не регулювати збір даних про людей.

Доки комп’ютер гратиме в шахи, люди митимуть посуд?

З новітньої історії ми знаємо кілька прикладів, коли дестабілізація на ринку праці призводила до серйозних змін. Фінансова криза і безробіття в Німеччині у 1930-х роках породили фашизм. Страшилки Путіна про можливе повторення кризи 1990-х років підштовхнули росіян зробити з нього царя. Безробітні американці та британці активніше голосували за Трампа та «Брекзит» відповідно.

ШІ також може призвести до схожої дестабілізації. Харарі наводить цікаву закономірність: комп’ютер легше навчити грати в шахи або в го, ніж мити посуд; роботи не можуть водити машини, тимчасом ChatGPT отримує більш схвальні відгуки від пацієнтів, ніж лікарі-люди. Чи не вийде так, що ШІ забере на себе усю розумову працю, а людям залишаться менш престижні професії? У чому саме в майбутньому ми, люди, будемо кращими?

Що робити, аби ШІ не захопив увесь світ?

На думку Харарі, треба розробити чіткі правила гри, аби врахувати всі загрози. Важливими видаються ось ці принципи:

• Доброчесність. Якщо комп’ютер збирає інформацію про мене, то це має бути використано для мого блага, а не маніпулювання мною. Цей принцип і так діє серед людей: лікарі збирають багато інформації про нас, але на них поширюється лікарська таємниця. І якщо вони продають інформацію третій стороні — це незаконно. А техногіганти збирають про нас безліч інформації й здебільшого безконтрольно використовують її для отримання прибутків.
• Децентралізація мережі. інформація не повинна зберігатися в одному місці / архіві.
• Взаємність. Не тільки корпорації та уряди мають збирати більше інформації про нас, ми теж повинні мати можливість контролювати їх. «Амазон і ТікТок знають забагато про мої уподобання, передплати та мою особистість, тимчасом я не знаю практично нічого про їхню бізнес-модель, податкові політики та зв’язки із політичними силами», — пише автор.
• Однакові правила для людей і для ботів. Сьогодні в суспільному діалозі беруть участь не тільки люди. Наприклад, під час передвиборчої кампанії 2016 року майже 20 % твітів були згенеровані ботами. «Закон має забороняти створення дипфейків людей, наприклад, американського президента, а також будь-яку спробу нелюдини видати себе за людину. І якщо хтось скаржитиметься, що такі суворі обмеження порушують свободу слова, йому потрібно нагадати, що роботи не мають свободи слова», — каже Харарі.
• Контроль за алгоритмами. Вони не повинні контролювати ключові суспільні дискусії. До того ж корпорації мають бути відкритими щодо принципів, яким слідують алгоритми.

Якщо ми такі мудрі, чому настільки саморуйнівні?

На думку Харарі, люди — найрозумніший й водночас найдурніший вид. Вони можуть створити атомну бомбу чи надрозумні алгоритми, але не здатні контролювати їх.

Автор пише, що ключ до майбутнього без атомної війни та ШІ-апокаліпсису в мережах, які скеровуватимуть нас до пошуку правди: «Сьогодні ми повинні відкинути наївний та популістичний погляди на інформацію, фантазії непогрішності та щоденно невтомно будувати інституції із потужними механізмами самовиправлення».

Можливо, прогнози Харарі щодо химерного майбутнього ШІ надто песимістичні, проте його погляд на технології все ж має сенс. Технології — те, що підсилює нас, і цю силу можна використати як із добрими, так із поганими намірами.

Інформаційні мережі, про які пише автор, є якраз нашою, медійників, сферою відповідальності. Але чи достатньо ми знаємо сьогодні, як вони працюють? Маємо ми вплив на сучасні цифрові платформи чи ж просто бездумно користуємося їхніми послугами? До чого ми готуємо наших студентів: майбутнім керуватимуть вони, встановлюючи правду, чи все ж алгоритми, які генеруватимуть для людей зручні ілюзорні реальності?

Звісно, самих тільки знань і зусиль медійників тут не достатньо. Адже якщо ми хочемо контролювати ШІ, ми повинні діяти усі спільно. Механізми самовиправлення мають бути загальносвітовими, інакше в них немає смислу. Але якщо міжнародне право не працює, на що тоді нам сподіватися?

Видається, що оптимізм та песимізм щодо розвитку технологій збігається із глобальними зрушеннями та катаклізмами. На зорі 20 століття людство переповнювала віра у прогрес. Проте почалася Перша світова війна, яка із часом переросла у Другу світову — і всі побачили, що технології, від яких очікували прогресу, сприяють масовому знищенню. Після розвалу радянської Імперії зла ми знову повірили у краще майбутнє, адже паралельно із цим розвивався інтернет. Проте уже на початку нового тисячоліття Росія, охоплена реваншизмом, стала перетворюватися на монстра. Якраз у цей же час російські тролі почали атакувати Україну в мережі. Пізніше російські фабрики тролів масштабувалися на весь світ. Тепер їм допомагає ШІ. І Росія не одна така.

Тому питання регулювання ШІ напряму залежить від нинішнього світопорядку. Чим довше не працюватиме міжнародне право, тим ймовірніше, що похмурі прогнози Харарі здійсняться.

Тож сподіватимемося на перемогу України, на створення нової, ефективної системи міжнародного права, в якій важливими компонентами будуть як недоторканість територій незалежних держав, так і співпраця людського та штучного інтелектів для більш відкритої, правдивої та осмисленої комунікації.