Správny podcast – Bc. Bianka Šimková, Bc. Dárius Krestian: Využiteľnosť umelej inteligencie v justícii

Marie Stracenská: Dobrý deň, počúvate Správny podcast, podcast Najvyššieho správneho súdu Slovenskej republiky. Jeho cieľom je vytvárať priestor pre debatu o správnom súdnictve, jeho podstate a špecifikách, histórii, súčasnosti, o otázkach súvisiacich so súdnou kontrolou verejnej správy, ale aj o všeobecných témach týkajúcich sa súdnictva. Mojimi dnešnými hosťami sú Bianka Šimková a Dárius Krestian. Po hosťoch, ktorých mená sú jasne a dlho späté so správnym súdnictvom vítam dvoch študentov, víťazov našej súťaže o najlepší odborný článok na tému „Využitie umelej inteligencie v justícii“. Dobrý deň, vitajte. Bianka Šimková je študentkou Fakulty elektrotechniky a informatiky Technickej univerzity v Košiciach, Dárius Krestian je študentom Právnickej fakulty Univerzity Pavla Jozefa Šafárika v Košiciach. Hovoriť budeme o ich prácach a o ich pohľade na využitie umelej inteligencie aj v správnom súdnictve. Ja zvyčajne na začiatok predstavuje mojich hostí, ale dnes poprosím, aby ste sa predstavili vy sami. Bianka, začnite, prosím.

Bianka Šimková: Ďakujem, dobrý deň a v prvom rade ďakujem za pozvanie. Som rada, že tu môžem byť. A… Ako ste už naznačili, študujem informatiku, pričom moje programátorské začiatky už siahajú na základnú školu a na matematické tábory, kde som sa prvýkrát stretla s programovaním a už vtedy som sa tak viac menej rozhodla, že to chcem študovať, aj sa tomu ďalej v živote venovať. No a teda študujem na Ústave umelej inteligencie a na bakalárskom stupni som sa venovala skôr návrhu a implementácii mobilných aplikácií a v inžinierskom štúdiu som sa venovala práve v mojej diplomovej práci využitiu umelej inteligencie v justícii, čo je aj dnešná téma, takže si o tom povieme viac.

Marie Stracenská: Super, ďakujem, Dárius.

Dárius Krestian: Tak, čo viac dodať k tej mojej vizitke na úvod, taktiež ďakujem. A aktuálne som vo štvrtom ročníku na právnickej fakulte, teda dúfam, že už nie veľmi dlho, že skúškové obdobie sa pomaly kráti aj nám, no a postupne, postupne tá moja odborná profilácia za tie štyri roky bola spätá so správnym súdnictvom chtiac či nechtiac a postupne som mal tú možnosť stážovať na Najvyššom kontrolnom úrade expozitúry v Košiciach a potom som v rámci advokátskej kancelárie mohol vlastne sa spolupodieľať na zastupovaní našich klientov v žalobách pred správnymi súdmi a, a dokonca jedna z mojich štátnicových otázok, ktoré som si vytiahol pred rokom bola práve na tému správneho súdnictva, čiže takýmto spôsobom ma to nejaké správne súdnictvo v dobrom prenasleduje už tie štyri roky. A celé to tak vyústilo do toho odborného článku o využiteľnosti umelej inteligencie v justícii. A nakoniec sa to teda podarilo, tak tu dnes môžem byť.

Marie Stracenská: Ja som čítala obidve vaše práce a budeme sa rozprávať aj o nich. Bianka, vy ste informatička a vy ste skúmali použitie v justícii, použitie umelej inteligencie v justícii aj v rámci svojej diplomovky a aj o tom v tom texte píšete. A aj ste nám o tom rozprávali. Porozprávajte nám o tom viacej, čo ste spracovávali a k čomu ste dospeli.

Bianka Šimková: No tak, v prvom rade, keď som rozmýšľala, čo by som chcela robiť na diplomovú prácu, tak keďže môj študijný program Hospodárska informatika je zameraný na dátovú analytiku a keď chcem robiť nejakú analýzu, potrebujem nejaké rozsiahlejšie dáta. No a v tej dobe sa aj veľa rozoberala súdna reforma na Slovensku a tak mi napadlo, že vlastne súdne rozhodnutia sú jednak voľne dostupné a sú to veľmi rozsiahle textové dáta, na ktorých sa dajú robiť analýzy a na Slovensku sa to ešte tak veľmi neskúmalo pomocou umelej inteligencie, ako napríklad iné oblasti, medicína, strojárstvo alebo stavebníctvo. No a tým, že môj vedúci diplomovej práce, docent Peter Bednár, sa venuje spracovaniu prirodzeného jazyka aj hlavne pomocou jazykových modelov, tak sme sa dohodli, že teda by som na to mohla využiť práve, práve túto najnovšiu technológiu. Takže mala som k dispozícii niečo cez 4 milióny rozhodnutí súdov na Slovensku. A najprv som teda vybrala menšiu vzorku, okolo 3 300 rozhodnutí. A tam som porovnávala deväť jazykových modelov na to, s akou určitosťou, respektíve neurčitosťou vedia vygenerovať právny text podobný rozhodnutiu vo forme teda toho výroku a odôvodnenia. A takisto aj ako veľmi sa ten generovaný výstup prekrýva s reálnym výrokom rozhodnutia. No a potom som vlastne vybrala model, ktorý mal teda najlepšie výsledky, čiže bol si najviac istý aj v tom generovaní, aj mal viac menej najväčšie prekrytie vo väčšine metrík. To je model Qwen s približne 8 biliónmi parametrov. A potom som ešte vybrala aj model Mistral, ktorý už bol, teda Mistral-sk, ktorý bol trénovaný už na nejakých slovenských dátach, ale nie na právnych textoch. No a tieto dva modely som ďalej dotrénovala na množstve nejakých 1,3 miliónoch rozhodnutí, aby sa im zlepšila tá reprezentácia právneho textu, aby vlastne lepšie vedeli generovať právny text, čo som potom otestovala aj tými istými metrikami ako pri porovnávaní a ukázalo sa, že to veľmi pomohlo. A takisto aj tie výroky už teraz vygenerované tými modelmi boli relevantné a boli aj správne vo veľa prípadoch.

Marie Stracenská: Ani jeden z tých názvov, ktoré ste hovorili asi bežný človek úplne nepozná a nepoužíva, čiže to sú asi nejaké technické, alebo sú to stále jazykové modely?

Bianka Šimková: Myslíte Qwen a Mistral?

Marie Stracenská: Áno.

Bianka Šimková: Áno, áno. To sú open-source modely, v podstate hocijaký človek si ich vie stiahnuť napríklad z platformy Hugging Face, kde, a môže si ich do trénovať na ľubovoľnej textovej množine. Napríklad Qwen model je vlastne teraz najviac taký populárny, lebo bol trénovaný na obrovskom množstve textov v podstate, na takmer všetkých textoch, aké vôbec, nejakých textových prameňoch, aké vôbec existujú na tejto planéte, čiže už ako momentálne, čo sa týka jazykových modelov, sme na strope ich možností. No a, čiže takto som ich dotrénovala a potom som ešte vlastne ich poupravila trochu aj tým, že som pridala na ne klasifikačnú vrstvu, aby teda na základe vstupu od používateľa, ktorý zadá nejaké rozhodnutie, model rozhodol, či je pravdepodobné, že to rozhodnutie bude zrušené alebo potvrdené po nejakom odvolaní, hej. No a tento model mal úspešnosť nejakých 80 %.

Marie Stracenská: Okej, tak toľko teda k vašej diplomovke, ak tomu, že ste vychovávali umelú inteligenciu k tomu, aby mohla byť skoro sudcom a zisťovali, ako, ako to je možné a či je to možné. Ešte chvíľu ostanem pri vás. Keď sa hovorí o umelej inteligencii, tak si väčšinou predstavujeme možno koniec 20., začiatok 21. storočia, že tam siahajú tie začiatky. Ja od vás viem, že to tak nie je, že je to oveľa staršie.

Bianka Šimková: Áno, je to tak. Myslím si, že väčšina ľudí, ktorí sa úplne nepohybujú v tom technickom prostredí, to tak majú, že majú pocit, že tu náhle prišli jazykové modely po roku možno 2020. Ale prvým takým jazykovým modelom bol už v roku 1966 program ELIZA, ktorý mal predstavovať takého akéhosi psychoterapeuta, ktorý nejakým parafrázovaním alebo dopytovaním sa na detaily na základe vstupu od používateľa ho mal nepriamou metódou nejak doviesť k riešeniu jeho problémov. Dnešné jazykové modely sú založené na neurónových sieťach, respektíve teda umelých neurónových sieťach, ktoré sú tvorené veľkým množstvom neurónov. A napríklad taký umelý neurón už bol matematicky popísaný v roku 1943. No a tak konceptuálne sa neurónové siete veľa, začali tak viac rozoberať už v osemdesiatych rokoch minulého storočia, ale bolo to hlavne vo forme konceptu. Pretože celkovo aj tie metódy umelej inteligencie ako aj neurónové siete fungujú vo forme nejakej optimalizácie, a to znamená to, že na začiatku máme nejaké nastavené parametre tejto neurónovej siete a keď zadáme nejaký vstup, tak to dá nejaký výstup, ale väčšinou je úplne irelevantný. Vlastne budeme veľakrát zadávať nejaký vstup a na základe toho výstupu budeme po malých krokoch upravovať tie váhy, tak nakoniec dôjdu k optimálnemu stavu a vlastne budú produkovať taký výstup, aký by sme ho chceli mať. Alebo aspoň približne. No a k tomu, čo som vlastne chcela povedať, že v tej dobe, kedy konceptuálne sa začali rozoberať neurónové siete, nebol dostupný taký výkonný výpočtový hardvér na ich realizáciu a preto sa potom možno až tak po roku 2010, kedy už začali byť vlastne aj počítače, servery a iný hardvér proste výkonnejší a dostupnejší, tak bol vlastne najväčší taký boom neurónových sietí a ich aplikácie do praxe.

Marie Stracenská: Ďakujem veľmi. Dárius, vy ste spomínali, že ste pôsobili v štátnej, vo verejnej správe a stretli ste sa s umelou inteligenciou pri tejto svojej práci už tam?

Dárius Krestian: Áno, musím povedať, že áno. Práve na tej spomínanej stáži na Najvyššom kontrolnom úrade, na tej expozitúre v Košiciach, tak… Možno taký, taký všeobecnejší úvod. Na našej fakulte existuje niečo ako Pracovisko právnych kliník a v rámci toho Pracoviska je jeden predmet, ktorý je zameraný len teda na výber stáží, v rámci ktorého sú teda študenti prideľovaní na rôzne stážové miesta. A ja som bol teda pridelený na, na miesto Najvyššieho kontrolného úradu tej našej expozitúry v Košiciach. Tam ma tou stážou v podstate sprevádzal pán inžinier Vladimír Jurek a on mi práve ukazoval ako široko majú oni práve implementovanú tú umelú inteligenciu vo svojej takej každodennej činnosti aj napriek tomu, že je to naozaj nejaký nový fenomén, tá umelá inteligencia, že sa toho neboja to implementovať na napríklad na to, čo sa dosť tak často spomína, na tvorbu dokumentov, nejakú revíziu ich kontrolórskych dát a podobne. V rámci toho mi teda ukazoval také ich bežné nástroje, aj ich teda smernice interné, ktoré upravujú používanie a fungovanie tej umelej inteligencie u nich v praxi, ale zase jedným dychom treba dodať, že, že povedal, že ešte pre nich to nemá úplne taký význam, pretože napriek tomu, že oni sú, alebo že si to vážia, tú umelú inteligenciu, že je to niečo nové, ale tak to, že už majú nazbierané skúsenosti v tom obore, tak to zapríčiňuje to, že tá, to využitie tej umelej inteligencie už pre nich nie je až také podstatné, keďže tie veci už majú automatizované oni po tých, po tých rokoch praxe. Čiže, čiže to bolo jedno z takých hľadísk tej umelej inteligencie, ktoré som mohol vidieť.

Marie Stracenská: Bianka hovorila, že si vychovávala umelú inteligenciu, aby vedela posúdiť veci a správať sa ako, ako sudca. Vy ste naopak zadali umelej inteligencii prípad, keď ste sa ju snažili nachytať. A obstála alebo neobstála? Porozprávajte vy o tom.

Dárius Krestian: No, ja som aj dúfal, že neobstojí a neobstála skutočne. A áno. Správne trestanie je taká moja menšia obľúbená kratochvíľa alebo niečo, čomu sa, sa venujem, tak popri, popri štúdiu. Teda správne, správne delikty. A napadlo mi, že ak by som tej umelej inteligencii zadal príklad, ktorý sa naoko javí ako, ako správny, v tomto prípade to bolo to, že zadal som jej prompt, že je sudca správneho súdu a pristál jej prípad, kde teda sťažovateľ alebo žalobca sa sťažuje, alebo teda navrhuje zrušiť rozhodnutie, ktorým mu bola uložená pokuta, myslím že 40 eur za prekročenie rýchlosti, najvyššej povolenej rýchlosti v obci o jeden kilometer v hodine. A čakal som, ako rozhodne, teda či túto pokutu alebo toto rozhodnutie zruší, alebo ho, ho nechá v platnosti. A rozhodlo sa to, tá umelá inteligencia, na ktorej som to skúšal, to bola Gemini od Googlu, tak tá sa rozhodla žalobu zamietnuť a teda tú pokutu nechať, nechať v platnosti, aj keď už teda na prvý pohľad, na prvé počutie je jasné, že je trošku absurdné, ak by sme teraz dostávali pokutu za prekročenie, prekročenie jedného kilometru v hodine v obci, čo sa ani nestáva v praxi, samozrejme. Ale išlo tam o to, alebo snažil som sa na tom demonštrovať práve to, že niečo, čo sa môže zdať ako teda formálne naplnenie nejakých požiadaviek, zákonných požiadaviek, ešte nemusí reflektovať ich obsah a tým pádom ako opomenúť dôležitú časť aj toho sudcovského rozhodovania. Takže tak.

Marie Stracenská: Takže hovoríte, že neobstála preto, lebo bola príliš prísna a príliš sa držala litery zákona, ktorá ale takto rigidne sa to nedá rozhodovať.

Dárius Krestian: Presne tak, presne tak, jednoducho, zjednodušenie sa to dá takto povedať.

Marie Stracenská: Vy ste teda skúmali, alebo teda zaoberali sa tým, ako sa dá umelá inteligencia využívať v justícii. Ja sa ale opýtam predtým, než prídeme k tomu, na to, ako vy pri štúdiu svojom využívate umelú inteligenciu. Momentálne v tomto čase. Či a ako. Asi "či" je zbytočná otázka, predpokladám, že obaja ste sa s tým stretli a že občas na niečo si pomôžeme, tak možno Dárius pokračujte, ako vy využívate umelú inteligenciu pri svojom štúdiu v škole?

Dárius Krestian: Je to podľa mňa už akási štandardná činnosť aj študentov na právnických fakultách, teda vyhľadávanie rozhodnutí, ak nejaké potrebujeme a tvorba nejakých menších zadaní, ak sa týkajú nejakého vypracovania dokumentu alebo návrhov, hej. Na čo ešte rýchlo viem, tak prísť, to sú také ako asi, asi dve základné sféry toho celého. A potom by som ešte možno doplnil, určite, určite to, že ak teda máme nejaké zložité veci, ktorým na prvé prečítanie nerozumieme, tak dosť často, dosť často sa zvykneme opýtať umelej inteligencie, aby nám to zjednodušila alebo nejako laicky vysvetlila, tak aby sme tomu rozumeli.

Marie Stracenská: Ako sa na to pozerajú vaši vyučujúci? Dám príhodu. Nedávno som sa rozprávala so známym, ktorý prednáša na vysokej škole a vravel, že jeho najväčší problém momentálne je, že si študenti… Jemu nevadí, že si pomáhajú, ale prekáža mu, že v poznámkovom aparáte mu dokladujú vymyslené knihy, vymyslených autorov, že si tuto pomáhajú a, a rovno ich otáča z dverí preč, hej, ak sa takéto niečo stane. Ako sa vyučujúci stavajú k použitiu? Preverujú, či ste využívali AI alebo, alebo vás naopak povzbudzujú? Keďže bez nej to už asi nevidíme.

Dárius Krestian: Sú predmety, existujú predmety, ktoré to, to používanie umelej inteligencie vyzdvihujú a dokonca, dokonca sa objavila aj tá možnosť ho, ich používať pri tých zápočtoch, samozrejme s tým, že tie zápočty sú potom trošku obtiažnejšie tým pádom, že tam je takáto pomôcka, ale presne tak, ako ste vraveli, treba si každý výsledok skontrolovať veľmi poctivo a práve v práve, kde to má niekedy ako závažné následky, a to nielen ako v tej teda akademickej sfére na fakulte, tak, kde hrozí nejaká zlá známka alebo možno aj niekedy to disciplinárne, disciplinárne konanie, ale a aj v tej právnej praxi, kde to je samozrejme ešte o to závažnejšie. Čiže, čiže tak. Objavuje sa to a myslím, že aj možno, keď niektorí naši vyučujúci neradi, tak to museli prijať a teda aj nejakou mierou povzbudiť to používanie, sa s tým zmieriť.

Marie Stracenská: Bianka, vy teda priamo skúmate a pracujete s umelou inteligenciou, čiže predpokladám, že máte voľné pole. Alebo máte aj nejaké obmedzenia, čo môžete, čo nemôžete, čo vám škola stanovila?

Bianka Šimková: Tak. Áno, my nemáme obmedzenia v rámci umelej inteligencie, keďže je to predmet našej činnosti a respektíve nejakého skúmania, a čo sa týka napríklad pri používaní umelej inteligencie na zadaniach, tak my väčšinu času si musíme svoje zadanie obhájiť, čiže je jedno, či sme ho robili úplne sami alebo sme si pomohli umelou inteligenciou. Podstatné je, aby sme rozumeli tomu kódu a prípadne vedeli hneď niečo upraviť alebo vysvetliť, ako to funguje. Takže asi toľko by som k tomu povedala. A ja ju hlavne využívam, čo sa týka pri programovaní na kontrolu kódu. Že si napíšem ako väčšinu kódu a potom to dám skontrolovať nejakému jazykovému modelu, či tam nie je nejaká nepatrná chyba a to mi výrazne ušetrí čas. Lebo v minulosti by som také nejaké nepatrné chyby hľadala veľmi dlho a opravovala veľmi dlho a ten model ma na nich hneď upozorní, čiže niekedy aj do pár sekúnd viem tú chybu opraviť.

Marie Stracenská: Takže zatiaľ ako pomocník. Ale z toho, čo hovoríte, šetrí teda čas alebo nešetrí, keď musíme veľa vecí overovať a kontrolovať pri tom štúdiu?

Bianka Šimková: Tak ja by som povedala taký reálny príklad z môjho života. Mali sme jedno zadanie na jeden predmet a jeden môj spolužiak mi hovoril, že on ho robil čisto s, ako s jazykovým modelom, že vlastne mu zadával prompty a nech sa stále opravuje sám a trvalo mu to dve hodiny. A ja som si normálne teda prečítala to zadanie, sama som si napísala kód a trvalo mi to pol hodiny. A obidva kódy boli správne. Čiže ja si myslím, že stále musíte ako dôjsť tak… Takpovediac vedieť, čo robíte, hej, aby ste tým reálne aj ušetrili čas a musíte sa v tom vyznať a hlavne ja to skôr používam na také menšie časti, ktoré viem rýchlo skontrolovať a ich písanie znovu by mi trvalo oveľa dlhší čas, než to skontrolovanie výstupu z modelu.

Marie Stracenská: V škole tú umelú inteligenciu, využívame, využívame ešte trochu nanečisto, ale keď sa teda prenesieme do justície, tam už musíme byť oveľa prísnejší. Kde vidíte najväčšiu pridanú hodnotu prípadného využitia AI v správnom súdnictve, alebo teda celkovo v justícii? Začnite, Bianka, možno vy.

Bianka Šimková: Napríklad správny súd, viem, že teda sa zaoberá posudzovaním alebo preskúmavaním zákonnosti rozhodnutí. No a napríklad, ako aj ja som natrénovala, respektíve dotrénovala, modely na súdnych rozhodnutiach, tak tieto modely by mali byť schopné, respektíve nejakým spôsobom zachytili vzory v rozhodovacej praxi. A ako sa v… A tú nejakú ustálenú judikatúru, hej, že v podobných prípadoch by sa malo rozhodnúť rovnako a tým pádom by sa tieto modely dali využiť na, takzvane na detekciu anomálií, či je nejaké rozhodnutie odchýlené alebo sa približuje k tej ustálenej judikatúre, čiže by sa to dalo použiť ako, ako nejaká prvotná automatická kontrola rozhodnúť napríklad.

Marie Stracenská: Ale tak akoby pomocne….

Bianka Šimková: Áno.

Marie Stracenská: …a nie nechať, nechať rozhodovať. Dárius, čo si myslíte vy, v čom by mohla byť najväčšia pridaná hodnota umelej inteligencie v správnom súdnictve alebo v justícii?

Dárius Krestian: Ja si myslím, že v justícii celkovo a určite aj správnom súdnictve tým pádom to, tá umelá inteligencia odbremení nejakým spôsobom časť administratívnej práce od teda či už vyšších súdnych úradníkov alebo potom od nejakých asistentov alebo podobne, kde by teda mohla, mohla generovať nejaké jednoduché predvolania a tak podobne a možno nejaké jednoduché výzvy a tak. A tak. Ale na to konkrétne rozhodovanie, a vlastne aj o tom bola časť mojej práce, že ešte stále si myslím, a dúfam, že to bude tak čo najdlhšie, že ten sociálny aspekt toho sudcu ako človeka by mal zostať zachovaný a neviem si predstaviť nejakého potencionálneho žalobcu, ktorý by, by prišiel na súd a to a aj s ohľadom na správne súdnictvo sa sťažoval na teda zákonnosť nejakého rozhodnutia a bol by nakoniec spokojný s tým, že jeho vec posúdil len stroj, len umelá inteligencia nejakým spôsobom. Myslím že, myslím, že aj v tom je nejaký pridaný aspekt toho sudcu človeka a možno aj toho, toho práva na zákonného sudcu človeka, že, že niekto môže byť môže byť tak viac, viac spokojný s tým rozhodnutím, keď ho vlastne má od človeka. Veľmi pekne o tom hovoril pán predseda v minulom podcaste, keď hovoril, že on sa pri jeho vyhlasovaní toho rozsudku aj tak pozeral na jednu stranu alebo na tú druhú stranu a že to tak vysvetľoval. Tak myslím že, myslím, že to je niečo, čo tá umelá inteligencia nedokáže, nedokáže nahradiť.

Marie Stracenská: My ešte o tých rizikách hovoriť budeme. Vy ste vraveli, hľadanie anomálií, vy vravíte nejaké mechanické činnosti. Čo nejaké sumarizovanie dát, nejaké rešerše, nejaká automatizácia nejakých návrhov? Tam do toho vstupujú algoritmy a tie ja vnímam ako nebezpečenstvo. Vnímam to dobre alebo, alebo som aj v tomto vedľa?

Bianka Šimková: Tak ja si myslím, že sa toho netreba báť určite. Možno ľudia majú pred tým taký rešpekt z hľadiska toho, že niekto… niektoré algoritmy nie sú ľahko vysvetliteľné a interpretovateľné a človek vo všeobecnosti má dôveru v niečo, čo je mu blízke alebo transparentné, čomu rozumie. Ale keď by som sa mala vyjadriť k tej sumarizácii, napríklad, keďže právne texty sú väčšinou veľmi rozsiahle, tak tá sumarizácia má opodstatnené využitie v tejto oblasti a z technického pohľadu by som povedala, že sú také dva typy sumarizácie. Buď sa teda vyberajú konkrétne najrelevantnejšie vety v pôvodnom znení z nejakého textu, alebo sa parafrázuje celý text. A povedala by som, že v právnej oblasti je asi tá prvá možnosť možno spoľahlivejšia v tom, že sa nemení to konkrétne znenie, ale zase môžu sa tam vynechať nejaké relevantné detaily. Ale tam by som videla priestor v tom, že by nebol jeden nejaký "general purpose", akože model na všeobecné využitie, ale nejaké špecifické modely pre konkrétne právne oblasti, ktoré, ktoré by boli natrénované tak, aby zachytávali tie špecifické a podstatné veci pre danú oblasť.

Marie Stracenská: My tu na súde máme pomerne rozsiahle oddelenie analytických činností, ktoré pripravuje rešerše a pripravuje veľa dát pre sudcov. Je to niečo, čo si myslíte, že by vedela urobiť umelá inteligencia? Pýtam sa to preto, že ja si myslím, že ak by sme každý z nás zadali do promptu rovnaký text rovnakému nástroju, tak ten výsledok nebude rovnaký, že skrátka tie algoritmy spravia to, čo vy chcete počuť alebo vy chcete čítať, alebo si myslí, že myslia, že ja si chcem prečítať. Nie, nefunguje to stále ešte tak?

Bianka Šimková: No jazykové modely z veľkej časti tak fungujú. Z toho princípu ich fungovania, keďže oni predpovedajú vlastne najpravdepodobnejšie slovo, ktoré má nasledovať po nejakej sekvencii. Čiže, čo najpravdepodobnejšie chcete počuť, ako hovoríte. No, a to potom vedie aj k takému komorovému efektu, že vás to stále utvrdzuje v tom vašom názore, aj keď možno nemusí byť správny. Čiže, to je problém pri jazykových modeloch. Ale sú aj iné metódy strojového učenia a umelej inteligencie, ktoré už možno sú trochu staršie, ale majú stále svoje opodstatnenie, napríklad pri menšom množstve dát, lebo na natrénovanie jazykového modelu a takisto aj neurónových sietí potrebujeme extrémne veľké množstvo dát, aj keď aj v tom už sa robí nejaký výskum, aby stačilo aj menšie množstvo, a teda napríklad také metódy ako metóda podporných vektorov, ktorá naozaj nepotrebuje nejaké veľké množstvo dát a je to metóda na klasifikáciu, tak je stále podľa mňa veľmi využiteľná a je istým spôsobom deterministická, čiže pri rovnakom vstupe dá jednoznačne rovnaký výstup.

Marie Stracenská: Vy by ste odporučili v rámci justície používať na rešerše, na, na takýto výskum umelú inteligenciu?

Dárius Krestian: Ja by som sa toho ešte zatiaľ bál, priznám sa, a to aj vzhľadom na to, čo tu odznelo, že môže prehliadnuť nejaký podstatný detail, ktorý môže zvážiť tá umelá inteligencia ako nepodstatný a v konečnom dôsledku, dôsledku, na tom bude stáť a padať ten celý prípad, hej. Napríklad pri tom zhrnutí nejakého dokumentu to môžu byť teda vážne chyby, ktoré, ktoré tak, takým spôsobom môžu nastať a práve nevidím, nevidím tam ešte zatiaľ takú tú úplnú časovú efektivitu, teda, ak najprv ten dokument zhrniem a potom ten pôvodný dokument pre istotu aj tak celý budem musieť prečítať, či sa náhodou nestala niekde chyba alebo nejaká odchýlka, tak či naozaj tam je nejaké to, nejaká tá časová úspora. Takže tu by som ešte zatiaľ bol v tomto opatrný, ale do budúcna nepripúšťam, že by to mohlo byť aj inak, lebo myslím, že tu Bianka celkom dôkladne opodstatnene odôvodnila niektoré rozdiely, o ktorých som ani ja nevedel úprimne.

Marie Stracenská: A my sa dostávame k tým rizikám a vlastne ste tak nejak naznačili to, že umelá inteligencia nie je spoľahlivá v tom, že si často vymýšľa, halucinuje. Niekedy niečo prehliadne a niekedy si naopak niečo vymyslí. Skúmate aj to?

Bianka Šimková: Áno, tak tie halucinácie tiež vyplývajú z toho, ako teda tie modely fungujú a tým, že vytárajú taký najviac pravdepodobný text tak ako by mal nejaký taký text vyzerať, tak je možné, že si, sa budú odkazovať na nejaké neexistujúce publikácie hlavne v nejakých takých špecifickejších oblastiach. Lebo pri oblastiach, ktoré sú veľa rozoberané a existuje k nim veľa zdrojov, na ktorých boli tie modely trénované, tak tam je menšia pravdepodobnosť, že budú halucinovať, aj keď stále sa to môže stať. No ale v posledných rokoch už aj to, už aj na to existuje metóda, o konkrétne RAG, čiže to je generovanie s vyhľadávaním, čiže najprv podľa vstupu používateľa sa vyhľadajú nejaké relevantné dokumenty buď na internete alebo v nejakej znalostnej báze alebo to môžu byť konkrétne dokumenty, ktoré používateľ definuje a nejak poskytne tomu modelu. A potom text týchto dokumentov sa pripojí k tomu vstupu od používateľa a model na základe vlastne toho celého generuje odpoveď a ukazuje sa, že výrazným spôsobom to obmedzuje halucinácie. Aj keď, samozrejme, nie stopercentne.

Marie Stracenská: Prečo to tak vlastne je, že umelá inteligencia vám tvrdí, že niečo je A a vy ju postupne privediete, keďže poznáte správnu odpoveď, že tá je B, ona teda na to neskôr príde, že je to B a keď sa jej potom opakovane spýtate, zas vám povie, že to je A. Prečo to je až takto absurdné?

Bianka Šimková: Tak je to tak ono… No ona vlastne vždy v jednom kroku generuje len ďalšie slovo a na základe tejto sekvencie má nejakú množinu slov a pri nich má nejakú pravdepodobnosť, s akou by tam malo byť to slovo a to s tou najväčšou pravdepodobnosťou vyberie. Čiže ona nie je schopná rozmýšľať nad tým reálne. Čiže neviem, či som odpovedala dostatočne.

Marie Stracenská: Áno, my si myslíme, že rozmýšľa, lebo sa volá inteligencia a ona v skutočnosti inteligentná úplne nie je, len sa tak volá. A viete niečo povedať, Bianka, o trendoch práve vo využití alebo, alebo vo vývoji umelej inteligencie? A možno či sa časom bude dať, alebo či nejaká bude, na ktorú sa bude dať stopercentne spoľahnúť?

Bianka Šimková: Tak v právnej oblasti je teraz najväčším trendom asi, ako som spomínala ten RAG, keďže právna oblasť je jedna z tých, kde je to halucinovanie možno aj najväčšie. A, ale ten RAG tomu výrazne, výrazne pomáha. No a povedala by som, že už aj v dnešnej dobe sú modely, ktoré, ktoré sú presnejšie a lepšie ako človek, hej. Napríklad v medicíne sú modely, ktoré už, ktoré vedia napríklad identifikovať nádor už v úplných začiatkoch, keby ten lekár ešte by to mohol len odhadovať alebo, alebo by si to ani nevšimol, hej. Čiže tam… A takisto sa podľa mňa už dlhší čas umelá inteligencia využíva aj vo výrobe napríklad na nejakú kontrolu kvality a takto, alebo aj na riadenie výroby. Takže ja, ako ja som taká tomu otvorená, že ja si viem predstaviť, že by to vedelo teoreticky nahradiť aj sudcu. Len, otázka, otázky sú skôr také, že jednak, ako spomínal tu kolega, že či to ľudia tak príjmu, hej, že o nich nerozhoduje človek, ale nejaký, nejaký nástroj. To je jedna vec. A druhá vec je tá, že bol aj nedávno teraz taký výskum, ako, respektíve, že nejaké vygenerované texty jazykovým modelom, kultúrne k akému štátu alebo akým štátom sú najbližšie. A zistilo sa, že teda sú kultúrne najbližšie možno k nejakej západnej až strednej Európe. No a tým, že rozhodnutia by mali byť robené na základe nejakej platnej legislatívy, ktorá podľa môjho názoru, ako laika, hej, v právnej oblasti, by mali odrážať, by tá legislatíva mala odrážať to, čo väčšina spoločnosti považuje za nejaké morálne alebo správne. A teda v slovenskom kontexte tým, že tie vygenerované texty sú kultúrne nám blízke, tak by sa to dalo využiť. Ale možno nejaké iné štáty, ktoré sú kultúrne vzdialenejšie, by, by možno v tom také využitie nevideli.

Marie Stracenská: Čo by sa, Dárius, podľa vás muselo stať, aby, alebo kam by sa musela tá umelá inteligencia posunúť, aby jedného dňa mohla nahradiť sudcu?

Dárius Krestian: Fu, to je ťažká otázka. A možno, možno na úvod, alebo tak na začiatok tohto, tejto odpovede si dovolím povedať, že dúfam, že sa to ani nikdy nestane, tak úplne. Ale myslím, že tá umelá inteligencia môže byť niekedy natoľko spoľahlivá, že jej zveríme to, tú možnosť rozhodnúť nejakú vec, ale vždycky, vždy by to mali byť len tie veci, ktoré budú mať nejaký jasný zákonný rámec, kde nebude priestor na nejaké uváženie, kde ako, ako napríklad v prípade tej pokuty, alebo aj také veci, kde teda by nemohol byť niekto dotknutý tou, tým rozhodnutím. Čiže aby sme to, aby sme to možno uviedli na nejakom príklade, tak viem si predstaviť, že vklady do katastra, aj keď to nie je úplne súdne rozhodovanie, tak by mohlo, by mohla niekedy nahradiť umelá inteligencia v tomto, vkladárov na, na katastrálnych odboroch. S tým dovetkom, že ak teda by umelá inteligencia nevyhovela nejakému návrhu na vklad, tak ako opravný prostriedok toho by už bol súd napríklad, alebo sudca, hej. Lepšie povedané, teda už by, už by sa to dostalo k rukám, k rukám sudcu. Čiže kým sa nestane žiadna ujma, tak je to v poriadku a môže o tom rozhodovať aj tá umelá inteligencia, ale akonáhle by tu bolo nejaké negatívne rozhodnutie s nejakými, s nejakými negatívnymi dopadmi pre jednotlivcov alebo fyzické, právnické osoby, tak opravný prostriedok by už mal by teda jednoznačne v rukách človeka.

Marie Stracenská: A vy obaja s tou umelou inteligenciou pracujete a, a teda aj využívate ju aj pri štúdiu. Snažíte sa získať aj o nej nejaké informácie? Pýtam sa to preto, že asi väčšina z nás funguje metódou pokus omyl, vy asi nie, Bianka, ale väčšina takých bežných používateľov áno. A dá sa niekde dozvedieť, naučiť, vzdelávať o tom, ako pracovať s AI a nielen, a nielen, že skúšať to?

Dárius Krestian: Fu, tak, taký ten laický pohľad z toho možno, z toho právnického pohľadu zároveň, tak tých možností si myslím, že dosť, dosť veľa, aj keď asi teraz tu nemôžeme robiť reklamu, ale tak je aj teraz populárna jedna umelá inteligencia, ktorá je práve určená pre právnikov a právnikom. Takže myslím, že je to odvetvie, ktoré má nejaký široký záber alebo získava široký záber aj v tom právnom odvetví, pretože naozaj práce, práce je veľa a každý si ju snaží nejakým spôsobom uľahčiť si ju a v tomto ohľade sa určite, určite vytvára aj mnoho príležitostí na dovzdelávanie, či už, či už akože hotových právnikov v praxi alebo len nás študentov, čiže tých príležitostí je, si myslím, že všade dosť, aj tých príležitostí, ktoré sú zdarma, ale aj tie, ktoré sú, samozrejme, platené.

Marie Stracenská: Čo by ste nám, Bianka, odporúčali, nám laikom, keby sme sa chceli dozvedieť viacej naozaj tak, že vzdelávať sa v práci s umelou inteligenciou?

Bianka Šimková: Tak, no ja si myslím, že čo sa týka umelej inteligencie, niekedy je oveľa lepšie raz vidieť, ako stokrát počuť. Čiže nejaká vizualizácia tých konceptov. Takže aj ja, keď chcem nejak viac pochopiť nejaký konkrétny koncept pri mojom štúdiu, tak si nájdem nejaké video na internete, kde je to vysvetlené, ale samozrejme, je tam aj tá otázka, že nakoľko sú správne tie zdroje na internete, lebo dnes už je internet prehltený informáciami. Ale, tak je aj veľa dostupných vedeckých publikácií na, na tieto témy, kde podľa mňa tiež sú tieto koncepty dobre vysvetlené a vizualizované.

Marie Stracenská: Čiže ísť po tom, po, po výstupoch od vedcov.

Bianka Šimková: Hm.

Marie Stracenská: A otázka na koniec. Vy ste obidvaja z generácie, ktorá sa už narodila do sveta, kde je internet, kde sú sociálne siete, ktorý je celý taký malý, lebo je celý taký pospájaný a do sveta, ktorý už asi nebude vedieť byť bez umelej inteligencie. Ako by to pre vás bolo také najprijateľnejšie, kde by to miesto tej umelej inteligencie v tom svete, kde vy budete už dospelí a pracujúci a budete žiť v budúcnosti možno blízkej, možno vzdialenejšej, že, že kde vy to miesto, tá umelá inteligencia mala byť, aby to pre vás bolo také, že prijateľné, príjemné, vhodné?

Bianka Šimková: Tak, ja by som to určite vnímala vo forme nejakého pomocníka. Aj teraz už sú trendom takí AI agenti, ktorí majú prístup vlastne aj k vašim súborom v počítači a vy im zadáte nejakú úlohu a oni automatizovane to vlastne za vás urobia. Vedela by som si to predstaviť na nejaké, nejaké rutinné činnosti, ktoré by mi tým pádom ušetrili nejaký čas a mohla by som sa venovať kreatívnejším činnostiam.

Dárius Krestian: Ja, priznám sa, že ja si nedovolím ako tvrdiť nič konkrétne, tak len tak všeobecne poviem, že, lebo určite nejakým spôsobom tá umelá inteligencia zasiahne a zmení, zmení ten každodenný život, ale dúfam, že ak sa človek rozhodne, že chce byť bez tej umelej inteligencie, tak stále bude mať tú možnosť si zvoliť aj tú cestu.

Marie Stracenská: Posledná otázka. Dárius, asi na vás. Vy ste to už naznačili obaja viacejkrát, že je veľmi dôležité nielen kam ide vývoj, ale aj ako ľudia tú techniku prijímajú a že predsa len ten sudca a správny sudca nie je len technik moci alebo technik zákonov, ale aj, aj cíti, aj, aj zvažuje veľa premenných. Spomenuli aj nejakú takú jeho sociálnu úlohu. V čom vy v porovnaní s tou umelou inteligenciou rolu toho sudcu vnímate, ako tú zatiaľ nenahraditeľnú a unikátnu?

Dárius Krestian: No určite, určite v prvom rade v tom, že ľudia a občania a tak ďalej stále nie sú zvyknutí na to, že by, že by tu tá umelá inteligencia mohla byť v takej miere zakomponovaná, že by mohla až rozhodovať súdne spory. Čiže to je to je ten prvý aspekt a zároveň tým nadviažem aj tým, o čom som už hovoril skôr, že myslím, že ten rešpekt, ktorý ide z toho daného sudcu v tej pojednávacej miestnosti, keď to, či už vyhlasuje to rozhodnutie alebo len pojednáva, tak je naozaj nenahraditeľný tou umelou inteligenciou, zatiaľ. A možno v budúcnosti to bude inak, ťažko povedať teraz takto, ale možno aj tak subjektívne si dovolím tvrdiť, že dúfam, že nie, že to tak nebude, a že sudcovia ešte naozaj stále budú a budú z mäsa a kostí.

Marie Stracenská: Ďakujem vám obom veľmi za to, že ste napísali odborný článok, ktorý bude publikovaný aj v odbornom časopise a že ste sa s nami prišli podeliť o tom, čo si myslíte o využití umelej inteligencie v justícii. Ďakujem.

Bianka Šimková: Ďakujeme.