Дар’я Нечепуренко, юристка практики технологій та інвестицій в Juscutum, у колонці для Scroll.media розповідає про AI Governance або регулювання штучного інтелекту. Як це влаштовано у світі та на що спирається в Україні та чому важливо забезпечити баланс між інноваціями та захистом суспільних інтересів.

У 2025 році штучний інтелект (ШІ) виходить за межі ролі простого помічника, стаючи повноцінним гравцем у державному управлінні — від оптимізації щоденних процесів до формування ключових стратегій. Ця революція обіцяє стрімке зростання ефективності та доступності публічних послуг, проте оголює гострі проблеми: етичні дилеми, прогалини в регулюванні та загрози безпеці. 

Ці процеси охоплюють як державні структури, так і приватний сектор, де ШІ інтегрується в операційну діяльність. У контексті цифрової трансформації постає ключове питання – як забезпечити баланс між інноваціями та захистом суспільних інтересів? 

ШІ на політичній арені світу 

Закордонні приклади демонструють, як ШІ переходить від допоміжної ролі до стратегічного партнера в державному управлінні. Ці кейси не лише надихають, але й підкреслюють юридичні пастки: від легітимності AI-рішень до відповідальності за помилки алгоритмів. 

У Непалі у вересні 2025 року, після масових протестів проти корупції та заборони соцмереж, які призвели до відставки прем’єр-міністра К.П. Шарми Олі, молодіжний рух «Gen Z» використав ChatGPT для вибору кандидата на посаду тимчасового лідера. Активісти в Discord-каналі, де налічувалося понад 145 000 учасників, звернулися до чат-бота із запитом про потенційних прем’єрів. ШІ запропонував чотирьох кандидатів: інженера з Оксфорда Сагара Дхакала, ексміністра освіти Суману Шрестху, мера Катманду Балена Шаха та колишню головну суддю Сушілу Каркі. Після аналізу переваг і недоліків ChatGPT віддав перевагу Каркі, аргументуючи її авторитетність і здатність забезпечити справедливі вибори. Голосування в Discord підтвердило вибір, і Каркі зустрілася з президентом та збройними силами.

Цей епізод піднімає питання легітимності AI в демократичних процесах: чи може алгоритм, тренований на загальнодоступних даних, впливати на конституційні повноваження? 

Подібні інновації спостерігаються в Тувалу, де кліматична криза змушує переосмислити саму сутність державності. З 2022 року уряд реалізує програму «Te Ataeao Nei» («Майбутнє зараз»), створюючи цифровий двійник нації в метавсесвіті для збереження суверенітету, культури та адміністративних функцій у разі затоплення островів. Проєкт включає оцифровку ландшафтів, документів, традицій та навіть паспортів на блокчейні. Хоча це не пряме «управління ШІ», технології AI та машинного навчання використовуються для моніторингу екологічних даних і моделювання майбутніх сценаріїв. Це підіймає тему про визнання«детериторіальної держави» та віртуальної нації. 

Албанія пішла далі, ставши першою країною з AI-міністром. У вересні 2025 року прем’єр Еді Рама призначив Діеллу — віртуального асистента на базі GPT-моделі, у обов’язки якої входитимуть контроль за публічними закупівлями через корупційну перепону вступу до ЄС. Діелла, яка вже працювала чат-ботом на платформі e-Albania, буде оцінювати тендери, встановлювати критерії та наймати експертів, з людським контролем на кожному етапі. Опозиція оскаржила призначення в Конституційному суді, аргументуючи невідповідністю конституції, яка передбачає «людські» посади.

Нарешті, ОАЕ у квітні 2025 року планує запустити найамбітніший проєкт: ШІ для написання законів через Офіс регуляторного інтелекту. Система аналізуватиме федеральні та локальні закони, судові рішення та економічні дані, пропонуючи оновлення, що прискорить процес на 70%. Прем’єр Мохаммед бін Рашид аль Мактум наголосив на точності, але експерти попереджають про «галюцинації» ШІ та брак людського контексту.  

Український досвід: «Дія.AI» як крок до цифрової держави 

Україна не стоїть осторонь: у вересні 2025 року Мінцифри запустило «Дія.AI» – перший національний AI-асистент для державних послуг. Асистент, побудований на моделі Google Gemini з маскуванням даних, надає консультаційні послуги (наприклад, оформлення ФОП чи довідки про доходи) та видає документи безпосередньо в чаті.  

Водночас інтеграція ШІ в державні процеси супроводжується значними ризиками, особливо у разі використання сторонніх моделей, розроблених приватними міжнародними компаніями. Навіть за умов анонімізації та шифрування, обробка чутливих державних і персональних даних через зовнішні системи може створювати загрозу витоків, несанкціонованого доступу або прихованої аналітики з боку розробників моделей. Такі ризики посилюються тим, що технологічна архітектура і навчальні дані великих мовних моделей (Large Language Models, LLM) залишаються неповністю прозорими для користувача та державного контролю. 

Планований перехід  на національну LLM-модель є логічним кроком для посилення цифрового суверенітету. Це дасть змогу зменшити залежність від зовнішніх технологічних провайдерів, забезпечити локальне зберігання даних і контроль над алгоритмічними процесами. 

З правового погляду, використання «Дія.AI» має відповідати вимогам Закону України «Про захист персональних даних» та бути гармонізованим з законопроєктом, який приводить українське законодавство у відповідність до Загального регламенту ЄС із захисту даних (General Data Protection Regulation, GDPR). Особливої уваги потребує принцип людського контролю (human oversight) — забезпечення того, щоб остаточні рішення, які впливають на права чи обов’язки громадян, приймалися людиною, а не автоматизованою системою. 

Управління ризиками та AI Governance 

Ефективне управління штучним інтелектом (AI Governance) починається з оцінки та контролю ризиків. Алгоритми мають сприйматися не як «чорні скриньки», а як системи, за якими можна здійснювати нагляд і коригування.

Згідно з рекомендаціями Національного інституту стандартів і технологій США (NIST, 2023), процес управління ризиками охоплює п’ять етапів: 

• виявлення потенційних загроз,
• впровадження захисних механізмів,
• моніторинг аномалій,
• реагування на інциденти,
• відновлення після них.

Такий підхід забезпечує пропорційність регулювання: якщо чат-бот у державних послугах вважається низькоризиковим і потребує мінімального нагляду, то системи, що впливають на соціальні виплати чи кредитні рішення, мають проходити незалежні перевірки та аудити справедливості. 

Ключ до успішного управління ризиками — залучення всіх зацікавлених сторін (stakeholders), що представляють різні напрями діяльності. Команди, до складу яких входять спеціалісти із захисту даних, кібербезпеки, юридичного супроводу та комплаєнсу, дають змогу повноцінно оцінювати ризики й ухвалювати обґрунтовані рішення. Особливо це важливо в IT-секторі, де ШІ часто застосовується для автоматизації процесів, аналізу даних чи прийняття рішень: без тісної співпраці таких фахівців технологічні рішення можуть суперечити регуляторним чи етичним вимогам.

Наприклад, у Mastercard створена Рада з даних та штучного інтелекту (AI and Data Council), куди входять керівники вищої ланки з різних напрямів — вони спільно аналізують високоризикові проєкти та визначають заходи захисту. Подібні комітети чи робочі групи в інших організаціях дають змогу оперативно залучати технічних і правових експертів для розв’язання складних питань. На практиці варто чітко розподілити ролі й відповідальність на ранніх етапах, організувати навчання з управління ШІ та системно підвищувати кваліфікацію працівників, щоб вони могли ефективно контролювати використання цих технологій.  

Навіть якщо компанія не створює власних моделей, а інтегрує сторонні рішення через прикладні інтерфейси (API), вона може нести відповідальність за їхнє використання — особливо, якщо її продукт взаємодіє з користувачами в ЄС. 

Практичні кроки для AI Governance: 

1. Визначте бізнес цілі та вимоги для роботи системи ШІ. 
2. Проаналізуйте, де саме застосовується ШІ — у продуктах чи внутрішніх процесах. 
3. Оцініть рівень ризику ШІ. 
4. Запровадьте політику управління ШІ (AI Governance Policy) – правила етичного, прозорого та безпечного використання. 
5. Документуйте процеси: джерела даних, навчання моделей, моніторинг результатів. 
6. Демонструйте етичну відповідальність — забезпечуйте прозорість рішень, справедливість, відсутність дискримінації, захист конфіденційних даних та можливість людського контролю над системою. 
7. Залучіть спеціалістів із захисту даних, кібербезпеки, юридичного супроводу та комплаєнсу до спільної роботи, щоб оцінювати ризики та наглядати за впровадженням ШІ. 

Етичність використання: запобігання упередженням і забезпечення прозорості 

Етичні принципи стають центральним елементом у використанні ШІ. Якщо навчальні дані містять соціальні чи культурні дилеми, алгоритми здатні відтворювати дискримінаційні моделі — від гендерних стереотипів у відборі кадрів до упереджень у системах оцінювання клієнтів. 

Тому в міжнародній практиці все більше уваги приділяється впровадженню етичних стандартів, таких як принципи ШІ Організації економічного співробітництва та розвитку (OECD AI Principles). Вони визначають п’ять ключових засад: інклюзивність, повагу до прав людини, прозорість, підзвітність і надійність систем. 

Для забезпечення прозорості дедалі ширше використовуються технології пояснюваного штучного інтелекту (explainable AI, XAI), які дозволяють користувачу зрозуміти логіку прийнятого рішення. Наприклад, моделі з функцією human-in-the-loop передбачають, що остаточне рішення завжди залишається за людиною. Це особливо важливо в державних сервісах і соціальних програмах, де наслідки помилок можуть бути критичними. 

Регуляторні підходи до контролю за ШІ 

Ключовим кроком став Акт Європейського Союзу про штучний інтелект (EU AI Act, 2024), який запровадив систему класифікації ШІ за рівнями ризику — від високоризикованих до заборонених. Окремий режим установлено для моделей загального призначення (General Purpose AI, GPAI), які мають звітувати про джерела даних і потенційні ризики.  

У США відмовилися від єдиного федерального підходу, натомість розвиваючи галузеве регулювання. Важливим орієнтиром залишається Фреймворк управління ризиками ШІ (AI Risk Management Framework, 2023), розроблений Національним інститутом стандартів і технологій (National Institute of Standards and Technology, NIST). Він визначає принципи оцінки ризиків, етичності та прозорості систем. 

Канада просуває  Закон про штучний інтелект і дані (Artificial Intelligence and Data Act, AIDA), який вимагає оцінки ризиків і пояснюваності алгоритмів. Велика Британія створила Інститут безпеки ШІ (AI SafetyInstitute) для тестування технологій перед впровадженням. 

Україна адаптує своє правове поле до європейського. У межах «Білої книги з регулювання ШІ» (2024-2025) передбачено створення регуляторних «пісочниць» (sandbox environments) для безпечного тестування технологій, а також розроблення національної мовної моделі (LLM) для зменшення залежності від іноземних рішень і посилення суверенітету даних. 

Безпека та стійкість: запобігання загрозам і маніпуляціям 

Безпека систем штучного інтелекту (AI Security and Resilience) стає ключовим елементом національної та корпоративної політики. Атаки на алгоритми, маніпуляції вхідними даними або так зване «отруєння моделей» (data poisoning) здатні призвести до спотворення рішень або витоку даних. 

В оновлених стандартах Національного інституту стандартів і технологій США (NIST Special Publication 800-53 Revision 5) передбачено принципи побудови систем із підвищеною стійкістю: регулярне тестування на надійність (robustness testing), впровадження архітектури нульової довіри (zero-trust architecture), сегментацію мереж і багаторівневу перевірку доступу. 

Для державних структур це означає постійний моніторинг, аудит безпеки та ізоляцію критичних компонентів, а для бізнесу — застосування методів симуляції атак (red teaming) та захисту конфіденційних даних через технології диференційованої приватності (differential privacy). 

Висновок 

Штучний інтелект трансформує підходи до управління — як у державному секторі, так і в бізнесі, змінюючи логіку прийняття рішень і розподілу відповідальності. Приклади використання ШІ у процесах публічного адміністрування в різних країнах демонструють не лише потенціал ефективності, а й ризики, пов’язані з етикою, прозорістю та правовим статусом таких рішень. 

Для України впровадження технологій на зразок «Дія.AI» відкриває можливість підвищити якість державних послуг, проте одночасно потребує послідовного розвитку механізмів регулювання, захисту даних та підзвітності алгоритмів. Без цього цифрова трансформація може стати джерелом нерівності чи зловживань, а не інструментом довіри. У приватному секторі аналогічні виклики — автоматизація відбору персоналу чи аналітики вимагають впровадження бази для управління ризиками та етичного контролю. 

Подальший розвиток має базуватися не лише на технологічних інноваціях, а й на системному управлінні ризиками, прозорості та етичних принципах. Лише за таких умов штучний інтелект стане інструментом розвитку суспільства, а не фактором невизначеності.

Авторка: Дар’я Нечепуренко, юристка практики технологій та інвестицій в Juscutum