Justiits- ja digiminister Liisa Pakosta hiljutine ettepanek kasutada tehisintellekti (TI) abi elatismaksete otsuste tegemisel on taas toonud välja tehnoloogia pakutavate võimaluste ja ühiskondliku usalduse murekohad.

Küsimus pole antud juhul mitte pelgalt TI-rakenduste üldises usaldusväärsuses, mis kahtlemata on jätkuvalt suur väljakutse, vaid TI rakendamisel inimeste elu olulisel määral mõjutavate otsuste tegemisel. Tehnoloogiat ei tohiks peljata, kuid igat uut tehnoloogiat tuleb rakendada mõtestatult, vajaduspõhiselt ja läbipaistvalt.

Eesti e-riigi edu on rajatud arukale ja pragmaatilisele, valdkondadega läbi põimitud tehnoloogiapoliitika vundamendile, mitte pimedale vaimustusele iga uue tööriista ees. Oleme sellest printsiibist aeg-ajalt taganenud, kuid oleme neist kogemustest ka õppinud. Ärme lase neil õppetundidel raisku minna.

Kui me arutame tehisaru rakendamise üle laste õigusi ja perede saatust mõjutavate otsuste tegemisel, siis ei räägi me pelgalt tehnoloogilistest valikutest, vaid ühiskondliku usalduse printsiibi võimalikust kuritarvitamisest. Automatiseeritud analüüsi ja ettepanekute rakendamine õigussüsteemis ei tohi toimuda kiirustades ning peab toimima läbipaistvalt.

Kuigi digitaliseerimise ja automatiseerimise abil saavutatava potentsiaalse efektiivsuse eesmärk on mõistetav, siis esmalt tuleb korraks paus teha ning küsida, kas olemasolevad või potentsiaalselt kogutavad andmed ning kasutamisele minevad protsessid on selleks valmis.

Vastus sellele küsimusele võib entusiastlikumale inimesele üllatusena tulla. Seejärel, kui andmete ja protsessidega seonduv on lahendatud, tuleb enne TI-põhiste otsuste kasutuselevõttu teha ehk veel pikemgi paus ning küsida: kas me oleme valmis ohverdama administratiivse mugavuse nimel kohtusüsteemi läbipaistvuse ja õigluse?

Arusaadavus ja auditeeritavus on õigusriigi nurgakivid

Iga haldusotsus – olgu tegemist maksude, toetuste või elatise määramisega – peab olema loogiliselt jälgitav ja arusaadav kõigile menetlusosalistele. Otsust ei tohi tajuda n-ö musta kastina, mille vahejäreldused jäävad arusaamatuks või läbipaistmatuks isegi kohtunikule. Kui kohtunik ei saa TI tehtud arvutusi kontrollida ega neid samm-sammult lahti mõtestada, siis ei saa rääkida ka kohtu otsustusvabadusest. Sellisel juhul on kohtunik pelgalt kummitempel. Pakosta hinnang "kui tal tundub, et see on täitsa okei" ei saa õigusriigis olla kohtuniku kinnituse jaoks pädev kriteerium.

Praegu teadaolevalt kavatseb riik kasutada masinõppe mudeleid, mille täpne töömehhanism tugineb statistilisele tõenäosusele. Nende mudelite puhul ei saa keegi täpselt öelda, miks TI just sellise tulemuse andis. Tegemist on seda tüüpi TI olemusliku probleemiga.

Need mudelid võivad olla hea lahendus nt Spotify soovituste jaoks – kuigi ka sellise juhul tasuks artistidelt uurida, mida nad TI-genereeritud ja soovitatud lugudest autoriõiguste ja -tasude kontekstis arvavad –, kuid ei sobi otsustama laste elatise üle. Õigusriigis on otsuste läbipaistev põhjendamine kodanike usalduse alus.

Sama kuubiku teisel küljel on küsimus vastutuse üle. Kui TI eksib elatise määramisel sellele esitatud andmete tõlgendamises või teeb ebaõiglase soovituse, siis kes vastutab? Kas arendaja, ametnik või kohtunik? Projektijuht? Tehisaru majutava andmekeskuse omanik? Ja lisaks: kellele jääb õigus TI tehtud soovitusele vastupidine otsus teha ning millise põhjendusega? On ju TI oma soovituse puhul töödelnud läbi miljoneid kordi rohkem infot, kui ükskõik millise astme kohtunik. Lisaks, TI on uus ja äge! Suisa epohhiloov ja strateegiline, kui visioonidokumente lugeda.

Vastutuse hajumine muudab kodaniku jaoks tema või tema vastutada olevate isikute suhtes tehtud otsuste edasikaebamise ning õigluse saavutamise keerulisemaks.

Õiguse mõistmise usaldusväärsus ei seisne ainult otsustes, vaid olulisel määral ka protsessis. Inimestele peab jääma põhjendatud uskumus ja arusaam, et neid kuulatakse, nende olukorda mõistetakse ning neid koheldakse võrdselt. Ainult nii on võimalik jõuda õiglase tulemuseni. Seadusandlus ei ole mustvalge, sest ühiskond pole masinavärk ning inimesed pole mutrid masinas.

Laste õigused pole valdkond eksperimenteerimiseks

Eriti tundlikuks muudab olukorra asjaolu, et seni lahendamata põhimõtteliste küsimuste kontekstis kaalutakse TI rakendamist valdkonnas, kus panused on väga kõrged – laste heaolu ja perede õigused. Kui eksitakse, ei kannata abstraktne süsteem, vaid konkreetsed lapsed ja nende vanemad. Inimesed, kellel on täielik õigus läbipaistvatele ja kaalutletud otsustele.

Minister rõhutab, et otsuse langetab siiski inimene. Selleks, et mustast kastist tulnud järelduste seaduslikkust ja sobilikkust kontrollida, peavad kohtunikud või delegeeritud õigusega osapooled kontrollima nii andmeid, arutluskäigu paikapidavust kui järelduste sisu ja mõju. Selle tegematajätmine poleks mitte pelgalt lohakus, vaid põhimõtteline eemaldumine õigusriigist.

TI "otsused" pole faktid ega tegelikkuses ka otsused, vaid keeruka algoritmi käivitatud tõenäosuspõhiste kalkulatsioonide tulemid. Need tulemid peegeldavad sisendandmete valikukriteeriume ning kvaliteeti, arendusmeeskonna otsuseid, valikuid ja eelarvamusi, ning algoritmidele esitatavate küsimuste mõtet. See kõik pole aga kahjuks nähtav ei nendele inimestele, kelle üle otsuseid langetatakse, ega ka kohtunikule, kes oma allkirjaga need kinnitama peab.

Samuti ei tohi unustada, et tehisaru "otsused" sünnivad sellele rakendatud protsesside ning sellele esitatud küsimuste sisu ja sõnastuse kontekstis, peegeldades ka küsija eesmärke, valikuid ja eelarvamusi. TI pakutavad vastused on täpse sõnastuse abil kergesti manipuleeritavad.

Eesti strateegia pole hooletu katsetamine

Meenutagem, kuidas me oleme seni e-riiki ehitanud: järk-järgult, läbimõeldult, kaasates eksperte ja otsides kasutajate usaldust. Oleme näinud, kuidas olukordades, kus neid printsiipe on eiratud, on probleemid lumepallina veerema läinud.

Lähenemine, kus eeldatakse, et kodanik peaks lihtsalt uskuma tehnoloogia töökindlust, ei tööta. See lähenemine viib nii igati õigustatud skeptilisuse kui ka visalt kaduvate alusetute süüdistusteni. Hind, mida me ühiskonnana maksame puuduliku selgitustöö ja usaldusväärsuse teadliku ülesehitamise puudumise eest, on väga kõrge.

Kui lubame kohtusüsteemi sisse mustad kastid, mille otsuste loogika jääb saladuseks, riskime usalduse kaotusega õigussüsteemi vastu. Kui kodanik hakkab (põhjendatult) kahtlema kohtute erapooletuses, ei ole ohus mitte tehnoloogiline innovatsioon, vaid õigusriigi toimimise alus.

Kui TI-l on koht õigussüsteemis, siis see peab sündima arutelude, läbipaistvuse ja tugeva õigusliku raamistikuga. Riiklike tehnoloogiliste arenduste eesmärk ei saa pelgalt olla mitte protsessis osalevate inimeste arvu vähendamine, vaid tulemuste parandamine ja ühiskonna heaolu. Eriti seal, kus kaalul on usaldus, õiglus ja ühiskonna haavatavad grupid.

Tehnoloogia peab teenima inimesi ja nende õigusi. Tehisintellekti kasutuselevõtt kohtusüsteemis nõuab palju põhjalikumat lähenemist kui praegu pakutav. Põhimõttelised küsimused läbipaistvusest, protsesside algoritmilisusest ja nende algoritmide alustest, vastutusest ning mõjude analüüsist vajavad osapoolte ühist arusaama riskidest ja võimalustest ning laiapõhjalist ühiskondlikku kokkulepet.

Esiteks tuleb tagada täielik läbipaistvus: iga otsus peab olema auditeeritav ja mõistetav. Teiseks peab kohtunikul säilima reaalne kontroll otsustusprotsessi üle ilma riskita "Arvuti ütleb ei" olukorras jõuetuks pealtvaatajaks jääda. Kolmandaks tuleb hinnata, kas uute lahenduste kasutegur antud ajahetkel õigustab vältimatuid kulutusi ja riske.

Kuni need küsimused ei ole lahendatud, ei tohiks tehisintellekti kohtusüsteemis sellisel moel kasutada. Õiglane kohtumõistmine on demokraatia nurgakivi ja seda ei tohi ohverdada administratiivse mugavuse nimel.