Штучний інтелект поступово перестає бути лише технологічною новинкою і дедалі більше перетворюється на інструмент ухвалення управлінських рішень. Держава автоматизує соціальні виплати, роботу реєстрів, перевірки, адміністративні процедури та доступ до послуг. Європейський Союз уже дав власну відповідь на це питання: Регламент (ЄС) 2024/1689 про штучний інтелект прямо відносить системи, які органи влади використовують для оцінювання права людини на істотну публічну допомогу та послуги, до категорії високого ризику з обов’язковими вимогами до них. Тобто йдеться не про абстрактну загрозу майбутнього, а про те, з чим європейське право вже працює сьогодні. Навесні 2026 року Україна заявила про перехід від концепції «держави в смартфоні» до «агентної держави», де ШІ-агенти мають проактивно виконувати завдання від імені громадян і держави. Для України це також не суто теоретична технологічна дискусія, а безпосереднє питання захисту прав людини, верховенства права і європейської інтеграції.
Діджиталізація та ШІ-рішення справді можуть значно спростити життя: скоротити черги, прибрати десятки довідок, пришвидшити отримання документів і державних послуг. Проблема починається тоді, коли технологічну зручність починають ототожнювати зі справедливістю, а швидкість ухвалення рішення — з його законністю. Найбільший ризик полягає в тому, що цифровізація держави може рухатися швидше, ніж створюються правові гарантії для людини. Так виникає нова форма бюрократії — алгоритмічна, де замість чиновника громадянин дедалі частіше стикається із системою, логіку роботи якої він не бачить і не розуміє.
Світ уже має показові приклади того, чим це може закінчитися. Як зазначає експертка з відкритих даних Надія Бабинська, у Кенії алгоритм, який визначав розмір внесків на медичне страхування, використовував непрямі соціальні маркери — зокрема матеріал даху та підлоги будинку. У результаті система систематично завищувала вартість страхування для найбідніших громадян і занижувала її для заможніших. Тобто алгоритм, який мав зробити державне рішення об’єктивнішим і точнішим, фактично посилив соціальну нерівність. Особливо небезпечно те, що для доведення помилки журналістам довелося окремо отримувати методологію роботи системи та відтворювати її результати.
Для України це не абстрактний сценарій. Уявімо автоматизовану систему, яка перевіряє право ВПО на державну допомогу, зіставляє інформацію з кількох реєстрів і виявляє «невідповідність». Причиною можуть бути застарілі дані про місце проживання, майно чи склад сім’ї. Виплату припиняють, людина звертається до державного органу, а там фактично відповідають: «система так показує». Хто в цій ситуації ухвалив рішення? Формально — держава. Фактично людина може не знати, яка інформація стала підставою для рішення, яке правило було застосоване і де виникла помилка. Якщо посадовець бачить лише кінцевий результат роботи алгоритму, право на оскарження легко перетворюється на фікцію.
Схожа проблема виникає і в цифрових військових сервісах. Помилки, некоректна синхронізація реєстрів чи неправильне відображення статусу в «Резерв+» демонструють головне: технічний збій державної системи може мати для людини зовсім не технічні наслідки. Коли помилка впливає на військовий облік, правовий статус або взаємодію людини з державними органами, принцип «система помилилася» не може бути виправданням. Алгоритм не є суб’єктом публічної влади і не може нести юридичну відповідальність. Відповідають органи та конкретні посадові особи, які створили або закупили систему, визначили правила її роботи, ввели її в експлуатацію та надали її результатам юридичне значення.
Є й значно чутливіші сфери. В Україні вже обговорюються або використовуються технології, здатні впливати на фундаментальні права. Проєкт Мін’юсту «Кассандра» ставить питання про межі застосування ШІ у правосудді та право людини на справедливий суд. Використання систем розпізнавання облич, зокрема Clearview AI, правоохоронними органами створює ризики втручання у приватність, помилкової ідентифікації та неконтрольованого використання персональних даних. У таких випадках проблема полягає не лише в тому, чи помиляється конкретний алгоритм. Проблема в тому, чи знає людина, що щодо неї застосували автоматизовану систему, чи може вона отримати пояснення і чи має реальну можливість оскаржити результат.
Саме тому алгоритм не стає нейтральним лише тому, що він математичний. Він працює з даними, створеними людьми, і може успадковувати їхні помилки, перекоси та дискримінаційні практики. Помилка чиновника може зачепити одну людину. Помилка, закладена в державну автоматизовану систему, — тисячі. Кенійський кейс показує, як соціальна дискримінація може бути буквально вбудована в математичну модель, а українські приклади демонструють інший вимір проблеми — ризик того, що технічне рішення отримає фактично юридичну силу без достатніх механізмів контролю.
Якщо людина, яка формально контролює алгоритм, не здатна зрозуміти його результат, перевірити його чи відхилити, то це не контроль. «Так вирішив алгоритм» не може стати новою формою чиновницької безвідповідальності. Чим більше державних функцій ми передаємо цифровим системам, тим більшою, а не меншою повинна ставати відповідальність держави за їхні наслідки.
Цей підхід уже закріплюється в європейському регулюванні. Регламент ЄС про штучний інтелект (EU AI Act) відносить системи, що використовуються, зокрема, у сфері публічних послуг, соціальної допомоги, охорони здоров’я та правосуддя, до високоризикових або потенційно високоризикових категорій залежно від конкретного застосування. Для таких систем передбачаються посилені вимоги до управління ризиками, людського нагляду, прозорості та захисту фундаментальних прав. Для України, яка рухається до членства в ЄС, це має бути не формальною вимогою «на потім», а орієнтиром уже під час створення державних ШІ-систем.
Окреме питання — приватність. Чим більше держава використовує алгоритми, тим більше даних вона збирає, поєднує та аналізує. Але цифровізація не скасовує гарантій статті 32 Конституції України і не дає державі права на надмірне втручання у приватне життя. Принцип «зберемо всі дані, а потім придумаємо, як їх використовувати» для держави має бути неприйнятним. Закон України «Про захист персональних даних» вимагає, щоб обробка даних мала законну підставу й не виходила за межі мети, для якої дані збиралися, – і ця вимога не зникає лише тому, що зіставлення реєстрів виконує алгоритм, а не людина.
Не менш важлива проблема — цифрове виключення. Не кожна людина має сучасний смартфон, стабільний інтернет, електронну ідентифікацію та необхідні цифрові навички. Якщо соціальну виплату, медичну послугу чи адміністративну процедуру реально можна отримати лише через цифровий сервіс, літня людина, мешканець віддаленого населеного пункту, ВПО, який утратив документи, або громадянин без відповідного пристрою опиняється у гіршому становищі. Формально держава права його не позбавила — вона лише встановила «зручний цифровий порядок». Фактично ж право стає доступним передусім тим, хто технічно здатен цим порядком скористатися.
Цифровізація повинна спрощувати доступ до прав, а не встановлювати нові умови для їх реалізації.
Ще одна проблема — хаотичне впровадження державних ШІ-проєктів. За даними, на які звертає увагу Надія Бабинська, українські органи влади вже закуповують ШІ-інструменти, обладнання та сервіси для різних сфер — від правоохоронної діяльності до медицини. Але при цьому відсутні уніфіковані вимоги до етики, безпеки та прозорості таких закупівель, повноцінний аудит уже використовуваних систем і єдиний публічний реєстр державних ШІ-рішень. Це створює ризик не лише неефективного використання коштів, а й залежності держави від конкретних постачальників та технологій, які вона сама не здатна повноцінно перевірити.
Це не винахід з нуля: Регламент ЄС 2024/1689 у статті 71 прямо зобов’язує вносити системи високого ризику до спільної європейської бази даних ще до їх введення в обіг, тож ідеться про приведення вітчизняної практики у відповідність із стандартом, який Україні так чи інакше доведеться виконати на шляху до членства в ЄС.
Саме тому державі необхідно знати, які ШІ-системи використовують її органи, для чого вони застосовуються, хто їх розробив, які дані вони обробляють, як перевіряється їхня точність і хто несе відповідальність за результат. Системи, що можуть істотно впливати на права людини, мають проходити оцінку ризиків, перевірку на помилки та дискримінацію, а в чутливих сферах людина повинна знати про застосування автоматизованого рішення, розуміти його підстави й мати можливість вимагати перегляду людиною.
Україна вже взяла на себе відповідне міжнародне зобов’язання: у травні 2025 року вона підписала Рамкову конвенцію Ради Європи про штучний інтелект, права людини, демократію та верховенство права, яка прямо вимагає від держав-учасниць забезпечити ефективні гарантії, включно з можливістю оскарження і людського перегляду рішень, ухвалених за участю систем ШІ. Тож ідеться не про побажання на майбутнє, а про виконання вже підписаного документа.
Мова не про повернення до паперової держави. Навпаки, Україні потрібна сучасна цифрова держава — але така, де технології підпорядковані праву, а не право пристосовується до технологій. Тому всі технологічні «мильні бульбашки» від Михайла Федорова і Ко, гучні презентації та захоплення тотальною цифровізацією повинні бути врівноважені реальною системою захисту прав людини.
Кількість сервісів у смартфоні — не показник правової держави. Швидкість ухвалення рішення нічого не варта, якщо людина не може зрозуміти, чому воно ухвалене, оскаржити його і знайти того, хто за нього відповідає.
Цифрова держава без відповідальності — це лише швидша бюрократія. А штучний інтелект без правових запобіжників здатен зробити несправедливість не меншою, а масштабнішою, швидшою та важчою для оскарження.
Найнебезпечніший момент настане тоді, коли суспільство одного дня зрозуміє: важливі рішення вже давно формують машини, а відповідальних за них знайти неможливо.
автор – Марина СТАВНІЙЧУК, Заслужений юрист України, правник, конституціоналіст
