Miroslav Sedláček: AI může soudnictví pomoct, ale poslední slovo musí mít člověk

Kritické myšlení a kreativitu člověka úplně zastoupit nedokáže – zatím. Zcela jistě se z AI stane užitečná pomocnice jednotlivých právnických profesí. Jak zapojit umělou inteligenci do soudnictví, a přitom neporušit právo na spravedlivý proces? I touto otázkou se zabývá expertní tým Miroslava Sedláčka z Právnické fakulty UK.

Jméno Juan Manuel Padilla Garcia na začátku roku obletělo svět. Kolumbijský soudce totiž prohlásil, že se jeho rozhodnutí případu, zda má být léčba autistického dítěte hrazena ze zdravotního pojištění, shodovalo s tím, jak ho navrhl „robot“ ChatGPT. Garcia se tak stal zřejmě jedním z prvních soudců, který připustil, že ke svému rozhodnutí využil velký jazykový model. A udělal to záměrně. Chtěl totiž poukázat na jeho schopnosti a možnosti využití. Ale: sesypala se na něj kritika ze strany odborné veřejnosti, a to nejen z Kolumbie.

Miroslav Sedláček z pražských práv, jenž se zabývá řešením civilních sporů prostřednictvím digitálních technologií, vysvětluje, v čem je využívání AI při rozhodování problematické: „Generativní modely nakonec mohou dojít k neobjektivním závěrům, diskriminačním či rasisticky zabarveným. To je také jeden z důvodů, proč řada soudců s využíváním generativní umělé inteligence při rozhodování nesouhlasí a proč Garciu kritizovali, i když deklaroval, že si všechny odpovědi, které mu ChatGPT dal, ověřil,“ podotýká Sedláček.

Jak na spravedlivý proces?

Evropská Úmluva o ochraně lidských práv a základních svobod, kterou ratifikovalo i Československo v roce 1992, hovoří o tom, že každý má právo na spravedlivý proces, a to musí být jako základní pilíř všech právních řádů demokratických států zachováno i při zapojení nových nástrojů. „Umělá inteligence směřuje k nejpravděpodobnějšímu typu řešení na základě analýzy jazykových podkladů, což je rizikové a může přinášet ničím nepodložené výsledky. To je v podstatě v rozporu s právem na spravedlivý proces. Přesto však k jejímu zapojení soudní systém směřuje, v některých případech to je proveditelné,“ míní Sedláček.

Nejen práci soudců, ale i dalších právnických profesí AI nejspíše promění. Vyhledávání a rešerše soudních rozhodnutí, jimiž soudci, advokáti a žalobci tráví množství času, zvládne umělá inteligence výrazně rychleji. Stejně tak umí rychle generovat smlouvy nebo různá procesní podání či na základě zadaných dat odpovídat na jednoduché dotazy z různých oblastí práva. Už dnes v některých státech USA pomáhá například v otázce stanovení výše trestu za spáchaný trestný čin! Objevují se také první advokátní kanceláře (nejen v České republice), které zcela běžně využívají svých databází a zapojují chatboty do zodpovídaní některých méně komplikovaných klientských dotazů. A tento trend bude jen pokračovat.

Citlivá data a kecálek

I když schopnosti generativní AI mohou v právu zásadně ušetřit čas, žádný velký boom v jejím používání dosud nenastal. Potíž tkví v tom, že soudci i advokáti pracují s citlivými osobními údaji, zabezpečit systémy umělé inteligence tak, aby nedošlo k úniku dat, může být složité. Velké jazykové modely jsou navíc pověstné tím, že se snaží na položené dotazy odpovědět za každou cenu, a tak si i vymýšlejí (takzvaně halucinují), a to velmi věrohodně. „Známe případy, kdy si systém dokázal vymyslet jednotlivá rozhodnutí a naformuloval je tak, že jsou sice uvěřitelná, ale ve skutečnosti neexistují. Dokonce je vygeneroval i se smýšlenými daty vydání rozhodnutí! Vše je třeba ověřovat,“ upozorňuje Sedláček s tím, že na konci vždy musí stát člověk, který má adekvátní vzdělání prověřit odpovědi a kriticky je vyhodnotit.

A jak tedy docílit toho, aby byla generativní AI využitelná i při rozhodování, ale zároveň nedocházelo k porušení práva na spravedlivý proces? To je základní otázka, na kterou nyní právní vědci hledají odpověď. „Umělá inteligence je nástroj, který bezpochyby může zjednodušit proces rozhodování, ale zodpovědnost za něj musí nést soudce. Rozhodnutí musí správně odůvodnit a stát si za ním, i když mu s jeho vytvořením AI pomohla,“ zdůrazňuje Miroslav Sedláček. Podle něj však – dříve či později – i soudnictví dospěje k tomu, že velké jazykové modely začne intenzivně využívat. Ovšem odpovědnost by měl nést stále člověk.

Mezery v digitalizaci

Zatímco využívání umělé inteligence pro rozhodování sporů je spíše hudbou budoucnosti (a to i v zahraničí), česká justice má mezery v digitalizaci vůbec. „Elektronizace justice v České republice není na takové úrovni, jakou bychom čekali ve 21. století. Systém by měl, alespoň co se týče oblasti civilního procesu, daleko více využívat dostupných technologických nástrojů. Přitom je zřejmé, že nástup technologií nepřináší jen nové možnosti, ale i nové problémy, se kterými je třeba se vyrovnat. A to jak v rovině právní, tak mimoprávní,“ podotkl Miroslav Sedláček.

Kuriozní je kupříkladu to, že když chce účastník řízení nebo jeho zástupce nahlédnout do soudního spisu, musí vyrazit k soudu. Elektronické spisy se až na výjimky nevedou, na dálku se k nim člověk nedostane. Výjimku představuje např. insolvenční spis, který se vede jak v elektronické, tak listinné podobě.

„Elektronizace v civilním soudním řízení je nedostatečná, a to ve všech jeho fázích, od zahájení řízení, přes jeho průběh až po rozhodovací činnost soudu. Debata se vede například nad zavedením formulářových žalob. Inspirovat bychom se mohli katastrem nemovitostí, který takové předpřipravené formuláře má k dispozici, stačí pak do nich doplnit jen potřebné údaje. V našem výzkumu pak hledáme další podobné mezery v právní úpravě a potřeby jejich zaplnění, aby současný systém dokázal zajistit efektivní a odpovídající soudní ochranu práv. Je třeba zapojit všechny technologie včetně umělé inteligence, které by dokázaly tomuto systému pomoct a soudní řízení zefektivnit za současného naplnění jednotlivých prvků práv na spravedlivý proces, a tím přispět k ochraně práv a svobod na úrovni jednotlivce i společnosti,“ podotkl Miroslav Sedláček.

Do svého výzkumného týmu Miroslav Sedláček zapojil i odborníky z praxe, soudce a advokáty. Pořádat chtějí kulaté stoly, kam budou zvát zástupce ministerstva spravedlnosti a různých právnických profesí, aby se výsledky jejich práce dostaly i mimo akademickou půdu (první z nich se bude konat ve středu 6. prosince na PF UK, více o něm ZDE). Jejich hlavním cílem je totiž zefektivnit fungování české justice v oblasti civilního soudního řízení. Zda k tomu přispěje i generativní umělá inteligence, se ukáže časem.

Celý rozhovor je k přečtení na stránkách UK Forum ZDE. 

Autorka: Helena Zdráhalová
Foto: Vladimír Šigut