Eesti ei saavutanud digiriigi mainet sellega, et oli esimene, kes asju välja kuulutas. Ta saavutas selle, tehes enne väljakuulutamist rasket sisulist tööd. ID-kaart ei olnud kunagi lihtsalt kaart; krüptograafilised ja õiguslikud protokollid tagasid ja tagavad, et seda saaks kasutada kaardiomaniku ja tema kavatsuste üheselt tuvastamiseks. Plastik oli kõrvaline. Oluline oli arhitektuur.

Kava anda tehisintellekti agentidele oma isikukoodid pöörab selle järjekorra tagurpidi. Esmalt tuli pressiteade; arhitektuuri alles hakatakse improviseerima. Ja küsimus, millele pealkiri vastab – mis on agendi staatus? – on just see, millel pole tegelikult mingit tähtsust.

Ühes vanas IBM-i koolituskäsiraamatus on põhimõte: kuna arvutit ei saa vastutusele võtta, ei tohi see kunagi juhtimisotsuseid teha. Me ehitame praegu agente, mille peamine eesmärk ongi neid otsuseid teha – maksta arveid, esitada deklaratsioone, kanda üle raha –, ja me haarame identiteedikoodi järele, et tekkinud vastutuslünka täita. Kuid identiteet ei ole vastus küsimusele "kes vastutab". Asjal olev number näitab, milline asi see on. See ei ütle, kes teeb otsuseid ega kes maksab, kui midagi läheb valesti.

Olulisi muutujaid on kaks, ja kumbki neist ei ole identiteet. Esimene on volitus: mida see agent tohib teha? Teine on vastutus: kui agent midagi teeb, siis kes selle teo eest vastutab? Kui need on paigas, ei ole agendi staatus enam küsimus. Kui need on valed, ei päästa teid ükski identiteedikood.

Valitsuse kaitseks tuleb tunnistada, et pressiteates kirjeldatud eesmärk on põhjendatud. Piiratud, kontrollitavad, auditeeritavad ja tühistatavad volitused on just see, mida vaja. Probleem on sellele kleebitud sildis. Volituste nimetamine isikukoodiks kutsub kõiki arutlema selle üle, mis (või kes) agent on, mitte selle üle, mida see teha võib ja kes selle vigade eest vastutab.

Päris probleem ja kõlbmatu lahendus

Probleem, millele ettepanek viitab, on reaalne. Täna annate selleks, et lasta agendil teie nimel tegutseda, talle oma autentimisandmed ja PIN-koodi. Sellega saab agent piiranguteta kõik teie volitused, sest teisel pool olev teenus ei suuda teda teist eristada. See on tõepoolest halb. Kuid tegemist on volitamise ja piirangute probleemiga, ning me teame juba, kuidas neid lahendada: piiratud volitustega tokenid, OAuth-tüüpi nõusolek, tõendid, mille kandmiseks on ette nähtud Euroopa digitaalne identiteedikukkur – see on raamistik, millele seda ehitada, mitte järjekordne iseseisev silotorn. Sa piirad seda, mida agent teha võib, andes talle kitsa, tühistatava volituse, mitte andes talle "mina".

Identiteet ei lisa sellele piirangule midagi. Tegelikult on vaja kolme asja: et vastaspool saaks aru, et tegemist on agendiga, mitte inimesega; et agendi volitused oleksid piiratud; ja et volitus viitaks agendi eest vastutavale inimesele (või juriidilisele isikule). See on kaelarihm, mitte pass. Pass annab staatuse – see ütleb, et kandja on keegi, kellel on oma õigused ja kohustused. Kaelarihm ei anna kandjale midagi; see on omaniku märgis, mis näitab, kelle oma selle kandja on ja kes selle eest vastutab. Rooma õiguses oli see struktuur juba olemas: tegutsemisvahend (ori) oli õiguslikult asi ning selle tegevust ei omistatud mitte vahendile endale, vaid sellele, kes seda omas ja kasutas. Ja kui omanik määras selle vahendi juhtima äriühingut või laeva, oli sellest tulenev omaniku vastutus piiramatu, määratud pigem määramise aktiga kui omandiõigusega. See on õigesti kavandatud agendi identiteedimudel: omandimärgis, mitte isiksus, ning omistamisreegel, mis jätab vastutuse agendi käitajale.

Ja kogu ettepaneku aluseks olev eeldus – et agent on muidu õiguslikult olematu, mistõttu vajab ta koodi, et kellekski saada – on juba vale. Vastutus on juba määratud, ja seda kahes suunas. Kanada tsiviilvahekohtul polnud raskusi pidada lennufirmat vastutavaks selle eest, mida selle juturobot kliendile ütles, lükates "märkimisväärsena" tagasi lennufirma väite, et robot oli eraldiseisev juriidiline isik, kes enda eest ise vastutas. Müncheni kohus on esialgu läinud veelgi kaugemale, käsitledes tehisintellekti süsteemi väljundit pigem operaatori enda avaldusena kui kolmanda osapoole omana. Teiselt poolt loetakse Targeti kasutustingimuste kohaselt kõik selle ostuagendi tehtud ostud kasutaja poolt heaks kiidetud tehinguteks. Kohtud omistavad vastutuse käitajale; lepingud omistavad vastutuse volitajale. Mõlemal juhul on agendi iga tegu õiguslikult juba kellegi teise tegu. Isikustaatus ei täidaks lünka; see avaks hoopis uue lünga, andes agendile oma rahakoti, millest maksta, ja kõigile tema taga seisvatele isikutele koha, kuhu peituda. Aga see on arutelu teemaks mõnel teisel päeval.

Pressiteade mõttetöö asemel

Miks siis üldse isikukoodi peale minna, kui piiratud volitus täidab oma ülesande ja seadus juba sätestab vastutuse? Sest isikukood annab "maailma esimese" pealkirja, piiratud volituse spetsifikatsioon aga mitte. Universaalselt unikaalne identifikaator (UUID), mida need agendid vajavad, on standardiseeritud kujul eksisteerinud juba aastakümneid; ühendage see avaliku kataloogiga, mis seostab identifikaatori selle taga oleva osapoolega – just selline infrastruktuur, millel avatud internet juba töötab –, ning omistamisprobleem saab lahendatud ilma peaministri, nõukogu ja pressiteateta.

See kõik poleks oluline, kui bränding oleks kahjutu. Aga see ei ole nii. Mõiste "isikukood" kasutamine loob eeltingimuse tõlgenduseks, et agent on piisavalt "keegi", et kanda omaenda vastutust – ja see on esimene samm selles suunas, et agent kannaks vastutust oma omaniku asemel.

Kus see kõik muutub konkreetseks

On üks koht, kus see kõik lakkab olemast teoreetiline, ja see on koht, millest ettepanek vaikib. Riigi enda strateegia kohustab Eestit kasutama agente, mis loevad kodanike andmeid ja täidavad nende otsused eelnevalt nende eest ära. Kena küll — aga ainult tingimusel, et vastame esmalt ühele küsimusele: kui riigi agent teeb vea, siis kes selle eest maksab?

Ettepaneku enda reegel – siduda agent vastutava inimesega – annab siin vale vastuse, sest vastutav inimene on riik ise. Kui maksuameti agent sisestab kuhugi vaikselt vale arvu, võib kahju kannataja olla iga kodanik või ettevõtja. Anna sellisele agendile identiteet ja oled loonud täiusliku alibi: mitte "ametnik otsustas", mitte isegi "ministeerium otsustas", vaid "süsteem otsustas". See ongi IBM-i hoiatus, mis tabab täpselt seda, mille vastu see oli suunatud – masin, mis teeb juhtimisotsuse, mille eest kedagi vastutusele võtta ei saa –, ainult et nüüd kogu riigi mastaabis.

Mida selle asemel reguleerida

Aus reaktsioon tõdemusele, et inimvastutuse eeldus ei pruugi püsida, on selle vastutuse tugevdamine, mitte kaotamine. Selleks sobiksid kolm meedet, ja ükski neist ei ole identiteedikood.

Esiteks, klassifitseerida agent õiguslikult sellena, mis ta on — asi, tööriist — ja kehtestada range ülespoole suunatud vastutuse omistamise reegel: agendi tegevus on tema käitaja tegevus, mis on tagatud krüptograafiliste võtmetega ja digitaalselt allkirjastatud vaidlustamatute logidega, nii et valdust ja vastutust ei saaks tagantjärele eitada.

Teiseks, muuta ohu piiramine käitaja õiguslikuks kohustuseks. Ebapiisavad kaitsemeetmed, puudulik järelevalve või puuduv hädapidur ("kill-switch") peaksid iseenesest olema hagetavad rikkumised; agendi autonoomsus ei kaotaks käitaja vastutust, vaid looks kohustuse piirata kahjustuste ulatust, nii et vabandus "keegi ei oleks osanud seda ette näha" muutuks süüdistuseks "kellelgi oli kohustus seda ohu piirata ja ta rikkus seda".

Kolmandaks tuleks kaaluda agendiga seotud tagatud kindlustuse nõudmist selle jääkriski katmiseks, mida ei võimalda maandada ei vastutuse omistamine ega ohu piiramine – vähemalt juhul, kui agendile on antud laialdased volitused. See on numbrimärgi mudel, kus märgis lõpuks oma väärtuse tõestab.

See on kogu programm. Ükski neist punktidest ei eelda, et agent oleks keegi.

Küsimus ei olnud kunagi "kes on agent?". Tegemist on nelja teise küsimusega, ja need on ainsad, mis loevad: kes andis agendile tegutsemiseks loa, kelle otsuseid see täidab, mis juhtub, kui see katki läheb ja kes maksab, kui see juhtub? Vasta neile ja agendi staatus selgub iseenesest. Jäta need vastamata ja identiteet, isikukood, "maailma esimene" – see kõik on vaid teater.

Pangem sellele asjandusele kaelarihm. Passi sel vaja ei ole.

Artikkel kajastab autori isiklikke seisukohti.