Hollandis prooviti automatiseeritud süsteemi abil abirahade pettusi tuvastada. USA-s on lisaks petturitele nii püütud ka kuritegusid ennetada. Katsed nurjusid, sest algoritmid olid ebatäpsed ning kallutatud.

Eestiski on soovitud rahapesuga võitlemiseks andmekaevet kasutada. Lisaks on mängitud mõttega tehisintellekti abil seaduseelnõudes vigu otsida. Krister Kruusmaa on kirjutanud, kuidas see võib märkamatult seadusi mõjutada.

Kallutatusest suuremaks probleemiks on siin läbipaistmatus: nii algoritmiliste süsteemide loojad kui ka kasutajad ei suuda nende väljundeid seletada. Selliste süsteemide otsustusprotsessidesse kaasamine õõnestab John Danaheri arvates nende legitiimsust. Ta nimetab seda algokraatia ohuks.

Danaheri sõnul on algokraatia süsteem, milles algoritme kasutatakse otsuste tegemiseks vajalike andmete kogumiseks, organiseerimiseks ja valitsussüsteemis edastamiseks. Andmete kujundamise kaudu kujundavad algoritmid ka seda, kuidas inimesed neis süsteemides teineteise ning ülejäänud kogukonnaga suhtlevad.

Algokraatlikud otsustussüsteemid võivad Danaheri järgi olla integreeritud olemasolevatesse juriidilis-bürokraatlikesse süsteemidesse. Nad võivad põhineda ennustavatel või andmekaeve algoritmidel.

Algokraatia on Danaheri arvates ohtlik järgmisel põhjusel: legitiimsed otsustusprotsessid peavad kaasama inimesi ja olema neile arusaadavad. Kasvav sõltuvus algokraatlikest süsteemidest piirab nii inimeste osalust kui ka otsuste arusaadavust. Seega on kasvav sõltuvus algokraatlikest süsteemidest ohuks otsustusprotsesside legitiimsusele.

Algokraatia on Danaheri silmis hiiliv oht. Efektiivsus, mugavus ja täpsus muudavad need süsteemid atraktiivseks. Neid kasutades muutume aga järk-järgult läbipaistmatutest süsteemidest sõltuvaks.

Mulle tundub, et ihalus algokraatia järele ei tulene ainult efektiivsusest. James C. Scott kirjutab, et riigid on sajandeid püüdnud oma territooriumi ja alamaid standardiseerimise kaudu administratiivselt loetavaks muuta. Selleks on kehtestatud perenimed, riigikeeled, standardsed mõõtühikud ning rahvaloendused. Administratiivne loetavus hõlbustab riiklikku kontrolli.

Algoritmide abil andmete töötlemiseks tuleb need enne standardiseerida. Vajadusel tuleb ka uut liiki andmeid koguda, et otsuseid automatiseerida. Seega võib algokraatiat näha järjekordse sammuna elu administratiivselt loetavaks muutmisel.

Danaher on tuleviku osas pessimistlik. Me oleme tema arvates ehitamas valitsussüsteemi, mis piirab inimeste osalust. Peaksime teadvustama, et maksame selle eest poliitilise legitiimsusega.

Kõiki Vikerraadio päevakommentaare on võimalik kuulata Vikerraadio päevakommentaaride lehelt.

ERR.ee võtab arvamusartikleid ja lugejakirju vastu aadressil arvamus@err.ee. Õigus otsustada artikli või lugejakirja avaldamise üle on toimetusel.