Штучний інтелект стає реальністю сучасного світу і все більше проникає у наше життя. На думку редакції JTA.com.ua, це також тема, яку потрібно порушувати і обдумувати в середовищі викладачів журналістики. Вона важлива як у контексті змін у журналістській професії та ролях, так і в контексті викликів і можливостей ШІ для всього суспільства, на благо якого мають працювати медіа.
Про те, як штучний інтелект змінює галузь безпеки, чи загрожує правам та свободам громадян, чи може використовуватися для протидії дезінформації та кіберзагрозам і про те, як його врегулювати говорили учасники дискусії «Як розвиток штучного інтелекту впливає на національну (інформаційну) безпеку та права людини» у межах конференції «Права людини у цифровому вимірі», що відбулася 24 червня і яку організувала ABA ROLI Ukraine. Модерувала обговорення виконавча директорка ГО «Український інститут медіа та комунікації» Діана Дуцик. Публікуємо головні тези учасників обговорення.
«Питання етики і права будуть розрізняти демократичне використання ШІ від авторитарного».
Суддя Джеймс Бейкер, доктор юриспруденції, колишній головний суддя Апеляційного суду Військових сил США
Зміни неминучі. Штучний інтелект повністю впливатиме на національну безпеку. Інше питання, наскільки це буде на користь.
Мені подобається таке визначення штучного інтелекту:
Штучний інтелект не є якимось одним програмним забезпеченням. Це сузір’я технологій, які надають комп’ютерним системам можливість роз’яснювати програми і виконувати завдання, які потребували би людського інтелекту.
Є багато плюсів використання ШІ, наприклад, у медичній сфері. Як на мене, питання етики і права будуть розрізняти демократичне використання ШІ від авторитарного. Тобто і юристи (не тільки технологи і політики) мають бути залучені до цих дискусій все більше.
Деякі загрози, які я бачу стосовно ШІ:
- Дилема кентавра, коли у вас є прийняття рішень із машинною швидкістю. Алгоритми можуть обробляти інформацію швидше, ніж люди. Як можна скористатися цим, не втрачаючи людського контролю? Нам потрібно визначити, де в нас людське, де машинне, і де має бути ця рівновага, коли ми говоримо про прийняття рішень за допомогою чинних технологій? Як на мене, різні застосування ШІ є різними аспектами цієї дилеми.
- Систематична похибка. Вона може бути умисна і не умисна. Це може бути помилка у розробці, у проєктуванні штучного інтелекту, коли, наприклад, він починає діяти не так, як його запрограмували саме через систематичну помилку, впроваджену на етапі проєктування.
- Накопичення потужностей ШІ. Особливо у сфері оборони. Ми можемо обробляти все більші і більші об’єми даних, знаходити там нові аспекти, яких раніше ми не мали. Особливо авторитарні режими можуть дізнатися про своїх громадян те, що раніше держави ніколи не знали.
У США Верховний Суд висловив занепокоєння з цього приводу у справі Карпентера. Там правоохоронні органи отримали ухвалу суду на отримання інформації, але Верховний Суд сказав: «Знаєте, в нас уже забагато інформації, будь ласка, відступіть».
Коли ми говоримо про ШІ, нам потрібно дивитись на конкретні застосування. Наприклад, у самокерованих автомобілях, чи в розпізнаванні облич на перетині кордону. Важливо сказати в цілому, нам потрібна рівноправність чи прозорість.
«ШІ — це щось подібне до розробки ядерної зброї»
Флемінг Спідсбоель, експерт Данського інституту міжнародних досліджень (DIIS)
Я хочу підтвердити те, що сказав суддя Джеймс Бейкер: потрібно говорити про конкретні випадки. Коли ми говоримо про цифрову державу — що це таке? Навіщо державі йти шляхом цифровізації?
Ми знаємо з досліджень, що недемократичні держави спромоглися збільшити середню тривалість життя доволі істотно. І одна з гіпотез полягає в тому, що вони використовують цифрову сферу дуже хитро: для контролю над громадянами, впливу над уподобаннями громадян. Відповідно, для такої цифрової держави цифрова сфера пропонує можливості. Цифрова держава у такому аспекті може дуже відрізнятися від, скажімо, Швеції. Яка теж іде шляхом цифровізації, але зовсім з інших причин.
Коли ми говоримо про цифрову державу, нам потрібно розрізняти цілі такої держави.
Все-таки, необхідно і не забувати про позитив. Розпізнавання тих чи інших схем для виявлення пухлин — це позитивний напрямок. Напевно, ШІ може використовуватись з позитивною метою у різних напрямках на користь більшості людей.
Зараз військові дослідники вже аналізують технології 6G і як це змінить ведення бойових дій у майбутньому. Будьмо реалістами. Збільшення можливостей інтернет-підключень і поява цифрових держав може збільшити повноваження і можливості їхніх громадян, але водночас це означає, що в тої інформації буде зовсім інший стан.
ШІ буде інструментом для держав, для контролю над громадянами: буде аналіз даних, використання даних. Саме тому це дуже фундаментальний момент, у тому числі в аспекті прав людини.
Зараз ідуть справжні перегони з накопичення можливостей ШІ. Для України, мабуть, будуть наслідки для забезпечення внутрішньої безпеки України. Ми можемо відставати від інших держав, таких, як Китай, США. Якісь держави їх наздоганятимуть, якісь ні. І в цьому може бути істотний перекіс у системі.
Ми можемо використовувати штучний інтелект для виявлення дезінформації. Але більш розвинені держави можуть використовувати ШІ для створення дезінформації і для спроб упливу на громадян, наприклад виборців (наберуть дані про них, проаналізують і почнуть проводити операції). Тут є багато різних шарів. Є один мікрошар, пов’язаний із відносинами між окремими державами, системою, шар, пов’язаний з безпековою ситуацією, і є шар перегонів технологій.
Я впевнений, що ми побачимо такі перекоси у системі, яких людство ще не бачило. Щось подібне до розробки ядерної зброї.
По суті я оптиміст щодо ШІ, але також бачу багато негативних наслідків. Нам необхідно говорити про те, як себе вести, як обмежувати держави у цьому аспекті.
«ШІ в руках держави — це завжди похідна від політичної системи»
Роман Горбик, дослідник факультету медіакомунікацій університету Седертерн, Швеція
Я розглядаю проблему застосування ШІ у контексті нового державного управління. Це підхід держуправління, з 80-х років відомий на Заході. Big data дали великий поштовх цій моделі.
Ми зараз бачимо, що багато дослідників, які розглядають проблеми штучного інтелекту з критичної перспективи, говорять про перехід від держуправління до нової державної аналітики. Це глобальний процес, який ініціюють індустріальні чи постіндустріальні, переважно демократичні країни. Це процес бізнесовізації, загального переходу на бізнес-моделі і стандарти, які пов’язані з диджиталізацією, збором даних про населення. Це дає краще розуміння, як же цим населенням можна керувати, яким чином задовольняти його потреби, виконувати функції держави.
Авторитарні та гібридні режими також багато в чому включилися в цю гонку, і багато в чому нас вже наздоганяють або переганяють. Ми це бачимо в Китаї, частково в Росії. В цьому контексті можна сказати, що формуються дві різні моделі: західна (демократична) і недемократична, авторитарна. Можливо, є якась третя, гібридна модель, яка себе окреслить пізніше. Вкрай важливо, яку модель візьме на себе Україна. Поки що виглядає так, що, на відміну від Білорусі, Україна більше орієнтується на Захід. Це великий позитив.
Українське державне управління стоїть перед двома викликами одночасно. Перший – це ефективність, другий — демократичність і транспарентність. З одного боку, ми говоримо, що державна неефективна, часто не може запровадити своє рішення в життя, гарантувати його виконання. З іншого боку, ми бачимо, що вона не завжди чинить демократично, не завжди прозоро. Хоча в останні роки, після Майдану, ми бачили певні позитивні тенденції.
Неминуче складається певний компроміс: коли ми жертвуємо демократичністю задля більшої ефективності.
Це не просто питання про технології. ШІ в руках держави — це завжди похідна від політичної системи. Чи все з нею гаразд, чи високий рівень громадян до держави?
Мушу констатувати, що ШІ в Україні, окрім позитивів, часто несе потенційні ризики, які є загрозою для демократії в Україні.
Ми отримуємо додаткову групу впливових людей в цій системі — це розробники і надавачі послуг. Якщо держава ще підзвітна громадянам (через вибори, акції протесту, Майдани — в українських реаліях), то цей прошарок абсолютно не буде підзвітним, бо компанії не підзвітні громадянам так, як держава.
Ситуацію також ускладнює низка міфів про ШІ. Міф про те, що він є неупередженим. Завдяки дослідженням ми знаємо, що ШІ завжди відбиває всі внутрішні установки розробників.
Ми багато говоримо про ШІ як потенційний засіб проти корупції. Але ШІ за бажання можна запрограмувати так, що він створюватиме умови для корупції, які жоден антикорупційний активіст не зможе відстежити. Є великий міф про те, що ШІ ніколи не помиляється. Але він — це просто система навчання машин, і класифікацій. ШІ неможливий без великої роботи людей, які фільтрують ці дані.
Питання не втому, робити ШІ в Україні, чи ні, бо потяг вже пішов. Найбільша загроза в Україні — це відставання від світу. Бо рано чи пізно ШІ застосують проти нас.
Тому для нас головне — опановувати технологію ШІ, щоб запобігати агресіям. Безпековий аспект є найбільш перспективним для України. Тоді як питання залучення ШІ до державного управління, як на мене, є дуже дискусійним. Тут насамперед потрібен контроль.
«Ми в Україні не хочемо зарегулювати ШІ, важливо, щоб Україна не відставала від світу»
Гордій Румянцев, експерт групи із захисту дітей в Інтернеті, Міністерство цифрової трансформації України
Наша група мала нагоду долучатися до процесу прийняття, поки що важко сказати, як це буде називатись, але умовно до конвенції Ради Європи зі штучного інтелекту. Вже йдуть подібні ініціативи, як на рівні Ради Європи, так і на рівні ЄС.
Ми насправді маємо зараз три моделі ШІ.
- Перша — європейська, де передбачається врегулювання не тільки поведінки держав, і їхніх зобов’язань в контексті ШІ, а й поведінки приватних гравців.
- Друга — китайська, в якій ми бачимо дуже спірні моменти, такі як надання оцінок людям, конвертування в якісь преференції чи штрафні санкції до людини.
- І третя модель — до неї можна умовно віднести США, Японію чи Південну Корею, де немає жорсткого регулювання, як це відбувається в ЄС, але разом з цим, немає і зворотного підходу, коли держава монополізує штучний інтелект, як це відбувається в Китаї.
Якщо буде прийнято конвенцію з ШІ на рівні Ради Європи, то Україна, як член РЄ, буде змушена дотримуватись загальноєвропейської моделі.
На рівні України вже була розроблена концепція з розвитку ШІ, нещодавно був прийнятий План дій до концепції. Вона містить загальні підходи щодо різних сфер, як це буде врегульовано в Україні. Якщо коротко — кібербезпека, інформаційна безпека, оборона, бізнес.
Не передбачається наразі ніяких жорстких законодавчих механізмів для регулювання ШІ. Адже наразі ми не хочемо зарегулювати його розвиток, щоб Україна не відставала від іншого технологічного світу.
«Технології ШІ — це як Mastercard або Visa — якщо вони вже працюють, то стають доступні всьому світу»
Валентин Коваль, Перший заступник голови Національної ради з питань телебачення і радіомовлення
У мене є відчуття, що ми досить спокійно і зневажливо ставимося до проблеми ШІ, в той час, як вона оточила нас з усіх боків. Я погоджуюсь, що дуже важливо віднайти визначення ШІ. Мені часто кажуть, що коли ти платиш кредиткою в супермаркеті, то вже працює ШІ. Я з цим, звичайно, не погоджуюсь, бо для мене дуже важливо, щоб у функціонуванні системи з ШІ були: 1) складні алгоритми, які базуються на обробці великих даних; 2) неявна точка ініціалізації дії цих алгоритмів.
Якщо машина проїжджає на великій швидкості повз камеру контролю, і тоді запускається алгоритм визначення номера та адреси водія, надсилання квитанції для сплати штрафу і відслідковування потім — це для мене також не є ознакою ШІ, бо є якась зрозуміла точка ініціалізації алгоритму (машина проїхала повз камеру). Для мене ШІ — це те, що більше. Наприклад, коли велика кількість камер по місту відслідковують трафік і змінюють режим роботи світлофорів, таким чином, полегшуючи транзит громадян через місто.
Що стосується побоювання, що ми, великі країни, відстанемо і опинимося десь на узбіччі. Я думаю, що технології ШІ — це як Mastercard або Visa — якщо вони вже працюють, то стають доступні всьому світу. Я тут є прихильником концепції світу. Де є великі міста, де держави відходять на другий план, бо не встигають за бізнесом, який потребує швидкого просування вперед майже всіх технологій. А ШІ — це, в першу чергу технології.
Чим могла би займатися держава Україна?
- Регулювання процесу створення і розвитку ШІ.
- Регулювання процесу використання ШІ з метою захисту громадян від зловмисного використання цих технологій.
- Використання ШІ у своїй законодавчій діяльності.
Ми два роки тому розпочали роботу над створенням нашого нового моніторингового центру. І, усвідомлюючи, який об’єм інформації надходить до Нацради (ми маємо близько 450 мовників, трохи більше 1100 ліцензіатів), зрозуміли, що маємо створити моніторинговий центр, який міг би аналізувати контент і надавати спеціалістам інформацію про можливі ознаки порушення законодавства. Бо остаточне рішення про визнання тих чи інших дій порушенням мають робити люди.
Ми створили власний механізм з ШІ. Це базове розпізнавання мовної інформації, переведення його в текстову форму, подальший аналіз текстів, зображень.
Ми в Нацраді, завдяки колегам з Ради Європи, маємо словники, які дозволяють з певною мірою вірогідності визначати можливі порушення у сферах захисту прав дітей, захист суспільної моралі, мову ворожнечі, соціальну стигматизацію, дискримінацію, інформаційну безпеку. Можливо, потім, це перетвориться в якийсь загальнодержавний центр обробки інформації, щось на кшталт того, що в США називається Open Source Center.
«У нас не може існувати певних явищ без червоних ліній»
Тетяна Авдєєва, медіаюристка, менеджерка проєкту зі штучного інтелекту у Центрі демократії та верховенства права.
Коли ми говоримо про національну безпеку як явище, і нацбезпеку як підставу для обмеження прав, то перш за все потрібно пам’ятати про трискладовий тест. Незважаючи на відсутність специфічного врегулювання, ми все одно маємо усвідомлювати: будь-що, що впливає на права людини, має задовольняти підстави, на яких ці права людини можуть тією чи іншою мірою обмежені.
На які права людини в безпековій сфері може впливати ШІ?
Право на життя. З найбільших феноменів у нас тут — автономна зброя, яка регулюється частково міжнародним гуманітарним правом, і правами людини. Чи може рішення про позбавлення життя прийматися автономною машиною? Давайте згадаємо нещодавній звіт Ради безпеки ООН у Лівії (2021), де було згадано, що автономний дрон самостійно, без будь-якого втручання, вбив людину. Чи потрібно в такому випадку врегульовувати ШІ як явище? На мою думку, так.
Право не бути дискримінованим. З хорошого — розробки в сфері медицини. Вони можуть допомагати людству, пришвидшувати процес надання медичної допомоги. Що є небезпечним? У випадку, якщо система буде наповнюватись упередженою інформацією, ми будемо мати величезні проблеми. У такому випадку буде відбуватися дискримінація всіх за абсолютно різними ознаками, але результат буде один: порушення прав людини.
Коли створюється система, вона завжди має перевірятись на відповідність основоположним принципам, одним із яких є заборона дискримінації.
Право на приватність. Неодноразово говорили про системи, які розпізнають обличчя. Нещодавно було дві справи в ЄСПЛ, які безпосередньо стосуються баз даних та нагляду за особами. Про що вони говорять? Не зважаючи на те, що держава не має специфічного врегулювання, вона має дотримуватися конкретних принципів при обмеженні прав людини. Якщо в нас не існує жодних орієнтирів при застосуванні технологій ШІ, це вже буде порушенням принципу законності, передбачуваності надання громадянам гарантій у тому, що їхні права не будуть порушені.
Так само ШІ може використовуватись у сфері захисту від дезінформації, але і для поширення дезінформації. Наприклад, для створення підробок. Це дуже популярна тема у виборчий період, коли в нас поширюються різноманітні діпфейки у передвиборчий період, і це безпосередньо впливає на демократію.
Маємо такий собі казус. З одного боку, демократія дозволяє ШІ вільно розвиватися, а він, у свою чергу, має безпосередній вплив на неї з можливістю спотворювати деякі демократичні явища, як, приміром, чесні неупереджені вибори.
У нас не може існувати певних явищ без червоних ліній: без певних принципових обмежень, за які розробник, ті, хто застосовують ШІ, ті, що замовляють системи на основі ШІ, ніколи не мають виходити.