Ризики та контраргументи
Реєстр із 16 ризиків та відповіді скептикам
Нижче — реєстр із 16 ризиків національної Legal AI-інфраструктури з механізмами зниження та розгорнуті відповіді на типові заперечення скептиків.
1. Реєстр ризиків
| # | Ризик | Прояв | Механізм зниження |
|---|---|---|---|
| Р-1 | Галюцинації | Вигадані норми, справи, цитати (емпірика: 58–82% у публічних LLM; 1 733 судові кейси) | Обов'язкова прив'язка до джерел («немає джерела — немає сильного висновку»); автоматичний citation-check за першоджерелами; статусна модель фактів; людське підтвердження значущих висновків |
| Р-2 | Помилки та застарівання джерел | Аналіз за скасованою редакцією | Машиночитані дані з періодами дії; date-check на юридично значущі дати; поле verified_at у кожного джерела |
| Р-3 | Витоки конфіденційної інформації | Матеріали справи йдуть у зовнішні моделі / чужі руки | Шарова архітектура доступу; локальна/ізольована обробка конфіденційного шару; redaction перед зовнішніми викликами (укр. словник: РНОКПП, паспорти, адреси, реквізити); журналювання кожного звернення |
| Р-4 | Залежність від іноземних постачальників | Зміна умов/вимкнення вендора паралізує роботу | Провайдеронезалежна архітектура (відкриті формати, MCP, AGENTS.md); конфігурації переносні між середовищами; трек відкритих/локальних моделей; демо-режим без зовнішніх викликів |
| Р-5 | Непрозорість моделей | «Чому такий висновок?» — неможливо відповісти зсередини моделі | Прозорість на рівні процесу, а не ваг: ланцюг походження, артефакти, перевірки; приховані міркування моделі свідомо не вважаються доказом |
| Р-6 | Автоматизація упередженості | Модель тиражує перекоси даних/практики | Обов'язковий critique_pack (контраргументи); тестування на українських еталонних кейсах; порівняння висновків різних моделей на чутливих задачах; людина — фінальний арбітр |
| Р-7 | Недостатня кваліфікація користувачів | Сліпа довіра, невміння ставити задачі | Інститут менторства (П-10); стартові конфігурації із захисними правилами за замовчуванням; університетський трек (П-5); сертифікація для чутливих ролей |
| Р-8 | Відсутність єдиних стандартів | Зоопарк несумісних практик | Відкритий стандарт артефактів v0.1 з першого дня; валідатори; версіонування схем через відкритий репозиторій |
| Р-9 | Надмірна довіра до відповідей | «ШІ сказав» як аргумент | Обов'язкові поля впевненості та відкритих питань; UI-маркування непідтвердженого; позиція Верховного Суду України (ШІ не спростовує висновки суду) — у навчання |
| Р-10 | Проблеми відповідальності | Незрозуміло, хто відповідає за помилку | Жорстке правило: юридично значущі дії технічно доступні лише людині (human-only операції); кожне рішення має того, хто підтвердив; відповідність ст. 14 EU AI Act, ABA 512, CCBE |
| Р-11 | Спротив установ | Саботаж «спущеного згори» | Добровільні пілоти з вимірюваною користю; швидкі перемоги хвилі 1; залучення професійних асоціацій; ментори зі середовища, а не «айтішники ззовні» |
| Р-12 | Фрагментація рішень | Кожне відомство винаходить своє | Координаційний центр тримає лише стандарти/дані/безпеку; мережа практик; сумісність як умова сертифікації |
| Р-13 | Несумісність форматів артефактів | Пакети не читаються між середовищами | Лише відкриті формати (MD/JSON/YAML); схемна валідація на прийомі; тест сумісності: пакет із Codex-середовища перевіряється у Claude-середовищі і навпаки |
| Р-14 | Надмірне журналювання | Бюрократія логів убиває користь | Три рівні деталізації; метрика корисності логу — участь у перевірках/рішеннях; критерій зупинки в пілотах (накладні витрати) |
| Р-15 | Хибне відчуття контролю через обсяг логів | «Усе записано» ≠ «усе перевірено» | Розрізняти журнал і перевірку: значущі лише виконані перевірки з результатами; unsupported claim rate як метрика реального контролю |
| Р-16 | Конфіденційні дані в артефактах | Пакет з ПД йде за межі контуру | Автоматичний redaction-check перед формуванням handoff; рівні конфіденційності в конверті артефакта; заборона передачі пакета нижче потрібного рівня; журнал передач |
2. Контраргументи скептиків — і відповіді
«Це замінить юристів і суддів». Ні. Архітектурно: юридично значущі рішення технічно недоступні агентові (human-only). Регуляторно: EU AI Act, CEPEJ, ЮНЕСКО вимагають людського нагляду; концепція їм відповідає. Практично: інструмент знімає рутину структурування та перевірки, повертаючи час професійному судженню.
«Моделі галюцинують — отже, усе це небезпечно». Галюцинації — головний аргумент за пропоновану архітектуру, а не проти неї. Небезпечний «голий чат» без джерел і перевірок. Уся конструкція (джерела, статуси, citation-check, людина) побудована навколо цього ризику. Порівнювати треба не з ідеалом, а з поточною практикою: втомлений юрист без перевірочного контуру теж помиляється — але його помилок ніхто не журналює.
«У держави немає грошей на ще одну реформу». Модель дешевша за статус-кво: конфігурації — це текстові файли, дані вже відкриті, середовища — комерційно доступні або open-source. Старт — одиниці, а не десятки мільйонів; фінансування пілотів сумісне з чинними механізмами (Ukraine Facility, Pravo-Justice). Дорога якраз централізована мегасистема.
«Конфіденційні дані не можна давати ШІ». Правильне формулювання: не можна давати безконтрольно. Шарова архітектура існує саме для цього: конфіденційний шар обробляється локально/ізольовано, назовні йде знеособлене. Пілоти хвилі 1 узагалі не торкаються чутливих даних.
«Юристи цим не користуватимуться». Користуватимуться — якщо інструмент економить їхній час і вони контролюють його налаштування. Ставка на менторів із професійного середовища та добровільні пілоти. Критерій зупинки чесний: якщо команда не продовжує добровільно — стандарт спрощується.
«Це залежність від американських корпорацій». Архітектура провайдеронезалежна за побудовою: відкриті формати, змінні моделі, трек локальних моделей. Україна вже пройшла цей шлях із Дія.AI (гібрид: дані не покидають периметр). Залежність створює якраз закупівля єдиного пропрієтарного SaaS.
«Спочатку потрібен закон про ШІ». Чинної рамки достатньо для пілотів: рекомендації Мінцифри/Мін'юсту для правників (2025), положення ВС про використання ШІ, законодавство про персональні дані та його GDPR-реформа. Біла книга України свідомо обрала bottom-up: практика → регулювання. Пілоти дадуть регуляторові емпірику.
«Обмін артефактами — зайва бюрократія». Перевірювано: пілот П-11 вимірює накладні витрати проти виграшу (time to review, handoff completeness). Якщо гіпотеза не підтвердиться — стандарт буде спрощено; критерії зупинки публічні. Пропорційність вбудована (три рівні деталізації).
«Чому не почекати готових рішень з ринку?» Ринкові SaaS-продукти розв'язують задачі фірм, а не національної інфраструктури: вони не віддадуть Україні стандарт даних, командну пам'ять установ і незалежність від вендора. Чекати — означає отримати фрагментацію (Р-12) стихійним шляхом і втратити євроінтеграційне вікно, у якому гармонізація оплачується й мотивується.
«Це черговий IT-довгобуд: поки розроблять — застаріє». Тут нічому застарівати: розробки немає. Робочі місця будуються на вже готових, промислово експлуатованих агентних середовищах (OpenAI Codex, Anthropic Claude Code, відкриті аналоги); національний шар — це репозиторій інструкцій, навичок, ролей і навчальних курсів, який оновлюється як файли, а не як програмний продукт. Зміна покоління моделей — заміна рушія; конфігурації зберігаються. Впровадження може починатися сьогодні.
3. Зв'язок з доказовою базою
Емпірика ризиків Р-1, Р-9: джерела B1–B6 таблиці джерел. Регуляторна рамка Р-10: E1–E8. Архітектурні механізми: стандарт артефакта, §§4–7. Перевірка ефективності мітигацій: метрики плану пілота, §1 (П-11) і §5.