Ryzyka i kontrargumenty
Rejestr 16 ryzyk i odpowiedzi sceptykom
Poniżej znajduje się rejestr 16 ryzyk narodowej infrastruktury Legal AI wraz z mechanizmami ich ograniczania, a także szczegółowe odpowiedzi na typowe zastrzeżenia sceptyków.
1. Rejestr ryzyk
| # | Ryzyko | Przejaw | Mechanizm ograniczania |
|---|---|---|---|
| R-1 | Halucynacje | Zmyślone przepisy, sprawy, cytaty (dane empiryczne: 58–82% w publicznych LLM; 1733 sprawy sądowe) | Obowiązkowe powiązanie ze źródłami („brak źródła — brak silnego wniosku”); automatyczna kontrola cytowań względem źródeł pierwotnych; model statusów dla faktów; potwierdzenie przez człowieka istotnych wniosków |
| R-2 | Błędy i nieaktualność źródeł | Analiza oparta na uchylonej redakcji | Dane maszynowo odczytywalne z okresami obowiązywania; kontrola dat w odniesieniu do dat istotnych prawnie; pole verified_at przy każdym źródle |
| R-3 | Wycieki informacji poufnych | Materiały sprawy trafiają do zewnętrznych modeli / niepowołanych rąk | Warstwowa architektura dostępu; lokalne/izolowane przetwarzanie warstwy poufnej; redakcja przed wywołaniami zewnętrznymi (ukraiński słownik: RNOKPP, paszporty, adresy, dane rejestrowe); rejestrowanie każdego zapytania |
| R-4 | Uzależnienie od zagranicznych dostawców | Zmiana warunków lub odcięcie przez dostawcę paraliżuje pracę | Architektura niezależna od dostawcy (otwarte formaty, MCP, AGENTS.md); konfiguracje przenośne między środowiskami; ścieżka dla modeli otwartych/lokalnych; tryb demonstracyjny bez wywołań zewnętrznych |
| R-5 | Nieprzejrzystość modeli | „Dlaczego taki wniosek?” — nie da się odpowiedzieć od wewnątrz modelu | Przejrzystość na poziomie procesu, a nie wag: łańcuch pochodzenia, artefakty, kontrole; ukryte rozumowanie modelu celowo nie jest traktowane jako dowód |
| R-6 | Automatyzacja uprzedzeń | Model powiela przekłamania danych/praktyki | Obowiązkowy critique_pack (kontrargumenty); testowanie na ukraińskich sprawach wzorcowych; porównywanie wniosków różnych modeli w zadaniach wrażliwych; człowiek jako ostateczny arbiter |
| R-7 | Niewystarczające kwalifikacje użytkowników | Ślepe zaufanie, niezdolność do formułowania zadań | Instytucja mentoringu (P-10); konfiguracje startowe z domyślnymi ustawieniami ochronnymi; ścieżka uniwersytecka (P-5); certyfikacja dla ról wrażliwych |
| R-8 | Brak wspólnych standardów | Zoo niekompatybilnych praktyk | Otwarty standard artefaktu v0.1 od pierwszego dnia; walidatory; wersjonowanie schematów poprzez otwarte repozytorium |
| R-9 | Nadmierne poleganie na odpowiedziach | „Tak powiedziała SI” jako argument | Obowiązkowe pola pewności i otwartych pytań; oznaczanie niepotwierdzonych treści w interfejsie; stanowisko Sądu Najwyższego Ukrainy (SI nie obala wniosków sądu) — wbudowane w szkolenie |
| R-10 | Problemy odpowiedzialności | Niejasne, kto odpowiada za błąd | Twarda zasada: działania istotne prawnie są technicznie dostępne wyłącznie dla człowieka (operacje human-only); każda decyzja ma osobę, która ją potwierdziła; zgodność z art. 14 EU AI Act, ABA 512, CCBE |
| R-11 | Opór instytucjonalny | Sabotaż czegoś „narzuconego z góry” | Dobrowolne pilotaże z mierzalną korzyścią; szybkie sukcesy fali 1; zaangażowanie stowarzyszeń zawodowych; mentorzy ze środowiska, a nie „informatycy z zewnątrz” |
| R-12 | Fragmentacja rozwiązań | Każdy urząd wymyśla własne rozwiązanie | Centrum koordynacyjne odpowiada wyłącznie za standardy/dane/bezpieczeństwo; sieć praktyk; kompatybilność jako warunek certyfikacji |
| R-13 | Niekompatybilność formatów artefaktów | Pakiety nie są odczytywalne między środowiskami | Wyłącznie otwarte formaty (MD/JSON/YAML); walidacja schematu przy odbiorze; test kompatybilności: pakiet ze środowiska Codex jest sprawdzany w środowisku Claude i odwrotnie |
| R-14 | Nadmierne logowanie | Biurokracja logów zabija korzyść | Trzy poziomy szczegółowości; miarą użyteczności logu jest udział w kontrolach/decyzjach; kryterium zatrzymania w pilotażach (koszty narzutowe) |
| R-15 | Złudne poczucie kontroli wynikające z objętości logów | „Wszystko zapisane” ≠ „wszystko zweryfikowane” | Rozróżnienie logu od kontroli: znaczenie mają wyłącznie wykonane kontrole z wynikami; wskaźnik niepopartych twierdzeń (unsupported claim rate) jako miara rzeczywistej kontroli |
| R-16 | Dane poufne w artefaktach | Pakiet z danymi osobowymi opuszcza perymetr bezpieczeństwa | Automatyczna kontrola redakcji przed utworzeniem handoffu; poziomy poufności w kopercie artefaktu; zakaz przekazywania pakietu poniżej wymaganego poziomu; rejestr przekazań |
2. Kontrargumenty sceptyków — i odpowiedzi
„To zastąpi prawników i sędziów”. Nie. Architektonicznie: decyzje istotne prawnie są technicznie niedostępne dla agenta (human-only). Regulacyjnie: EU AI Act, CEPEJ i UNESCO wymagają nadzoru ze strony człowieka, a koncepcja jest z nimi zgodna. Praktycznie: narzędzie zdejmuje rutynę strukturyzowania i weryfikacji, oddając czas profesjonalnemu osądowi.
„Modele halucynują — a więc to wszystko jest niebezpieczne”. Halucynacje są głównym argumentem za proponowaną architekturą, a nie przeciwko niej. Niebezpieczny jest „goły czat” bez źródeł i bez kontroli. Cała konstrukcja (źródła, statusy, kontrola cytowań, człowiek) jest zbudowana wokół właśnie tego ryzyka. Porównanie należy prowadzić nie z ideałem, lecz z obecną praktyką: zmęczony prawnik bez pętli weryfikacji też popełnia błędy — tyle że nikt ich nie rejestruje.
„Państwa nie stać na kolejną reformę”. Ten model jest tańszy niż status quo: konfiguracje to pliki tekstowe, dane są już otwarte, a środowiska są dostępne komercyjnie lub jako open source. Start kosztuje pojedyncze kwoty, a nie dziesiątki milionów; finansowanie pilotaży jest zgodne z istniejącymi mechanizmami (Ukraine Facility, Pravo-Justice). To właśnie scentralizowany megasystem jest drogi.
„Danych poufnych nie wolno przekazywać SI”. Poprawne sformułowanie brzmi: nie wolno przekazywać bez kontroli. Warstwowa architektura istnieje właśnie po to: warstwa poufna jest przetwarzana lokalnie/izolowanie, a na zewnątrz trafiają dane zanonimizowane. Pilotaże fali 1 w ogóle nie dotykają danych wrażliwych.
„Prawnicy nie będą z tego korzystać”. Będą — jeśli narzędzie oszczędza im czas, a oni sami kontrolują jego konfigurację. Stawiamy na mentorów ze środowiska prawniczego i na dobrowolne pilotaże. Kryterium zatrzymania jest uczciwe: jeśli zespół nie kontynuuje dobrowolnie, standard zostaje uproszczony.
„To uzależnienie od amerykańskich korporacji”. Architektura jest niezależna od dostawcy z założenia: otwarte formaty, wymienne modele, ścieżka dla modeli lokalnych. Ukraina przeszła już tę drogę z Diia.AI (model hybrydowy: dane nie opuszczają perymetru bezpieczeństwa). Uzależnienie tworzy właśnie zakup jednego własnościowego SaaS.
„Najpierw potrzebna jest ustawa o SI”. Obowiązująca rama prawna wystarcza do przeprowadzenia pilotaży: rekomendacje Ministerstwa Transformacji Cyfrowej i Ministerstwa Sprawiedliwości dla prawników (2025), stanowisko Sądu Najwyższego w sprawie korzystania z SI, ustawodawstwo o danych osobowych oraz jego reforma zgodna z RODO. Ukraińska Biała Księga świadomie wybrała podejście bottom-up: praktyka → regulacja. Pilotaże dostarczą regulatorowi dowodów empirycznych.
„Wymiana artefaktów to zbędna biurokracja”. To da się zweryfikować: pilotaż P-11 mierzy koszty narzutowe względem korzyści (czas weryfikacji, kompletność handoffu). Jeśli hipoteza się nie potwierdzi, standard zostanie uproszczony; kryteria zatrzymania są jawne. Proporcjonalność jest wbudowana w rozwiązanie (trzy poziomy szczegółowości).
„Dlaczego nie poczekać na gotowe rozwiązania z rynku?” Rynkowe produkty SaaS rozwiązują problemy poszczególnych firm, a nie infrastruktury narodowej: nie przekażą Ukrainie standardu danych, pamięci instytucjonalnej urzędów ani niezależności od dostawcy. Czekanie oznacza uzyskanie fragmentacji (R-12) w sposób żywiołowy i utratę okna integracji europejskiej, w którym harmonizacja jest finansowana i premiowana.
„To kolejny nigdy niekończący się projekt IT: zanim powstanie, zdąży się zestarzeć”. Tu nie ma czemu się starzeć: nie ma żadnego etapu wytwarzania. Stanowiska pracy powstają na bazie już dostępnych, przemysłowo eksploatowanych środowisk agentowych (OpenAI Codex, Anthropic Claude Code, otwarte odpowiedniki); warstwa narodowa to repozytorium instrukcji, umiejętności, ról i kursów szkoleniowych, które aktualizuje się jak pliki, a nie jak produkt programistyczny. Zmiana generacji modeli to wymiana silnika; konfiguracje pozostają bez zmian. Wdrożenie można rozpocząć już dziś.
3. Powiązanie z bazą dowodową
Dane empiryczne dla ryzyk R-1 i R-9: źródła B1–B6, tabele źródeł. Rama regulacyjna dla R-10: E1–E8. Mechanizmy architektoniczne: standard artefaktu, §§4–7. Weryfikacja skuteczności mechanizmów ograniczania: metryki planu pilotażu, §1 (P-11) i §5.