Viimaste nädalate uudised TI ja TI-agentide teemadel, tipp-poliitikute ja ühiskonnategelaste avaldused ning ühiskirjad, meeletu tung kõike reguleerida, hiljutine Austraalia terviseandmete "häkkimise" juhtum jms on tekitanud parasjagu palju ühiskondlikke ja poliitilisi arutelusid, kuid paraku on valdav osa selleteemalisest avalikust diskursusest võrdlemisi problemaatiline.

Esiteks ei ole olemas OpenAI ja Anthropicu (ja teiste LLM-i ehk suuri keelemudeleid pakkuvate ettevõtete) uitama läinud agente, mis omatahtsi süsteemidesse sisse murravad ja palju pahandust teevad. Olukorra selline raamistamine ei vasta tegelikkusele. On hoopiski kellegi poolt kindla eesmärgi nimel ehitatud ning ebapiisavate detailide ja piirangutega, etteantud käsklusi täitvad automatiseeritud rakendused. Tarkvara. Võimekas tarkvara, seda küll.

Neil rakendustel pole oma moraali, nad ei tee eetilisi kaalutlusi, ei opereeri seaduste ja ühiskondlike reeglite kontekstis. Nendele rakendustele saab erinevaid kaalutlusi ja reegleid pehmete piirangutena ette kirjutada, aga need piirid on auklikud, sest konkreetse tehnoloogia eripära tõttu ei pruugi rakendused kõiki seatud nõudeid täita.

Kui rakendusele antud ülesanne oli (teadlikult) kirjeldatud liialt üldiselt, turvameetmed olid (teadlikult) puudulikud, monitooring oli (teadlikult) puudulik, raporteerimismehhanismid olid (teadlikult) puudulikud – või suisa kõike seda, pluss hooletult ja parimaid praktikaid ignoreerivalt –, siis ei maksa vaadata süüdistavalt otsa käivitatud rakendusele.

Nende rakenduste aluseks oleval tehnoloogial puudub kogemus, puudub kontseptsioon seaduslikkusest ja lubatavusest. Selles peituv tõenäosuslikkus ei toimi sarnaselt meile varasemast tuttavaga.

Oma labradorile võib näiteksvisata palli ja hõigata "Püüa!" ning seejärel võib eeldada, kuigi mitte sada protsenti teada, et koer pigem hüppab madalast aiast üle (mitte ei rammi seda maha ega pane põlema), ujub madalast ojast läbi (mitte ei raiu maha ümberkaudset metsa, et ehitada silda), põikleb kõrvale teele jäävast mängivast lapsest (mitte ei trambi teda jalge alla) ja toob sulle tagasi talle visatud palli (mitte ei korja kokku kõiki teistele koertele visatud palle 10 km² raadiuses, sest koeraomanikule ilmselgelt meeldivad pallid).

Seevastu TI-agent ehk automatiseeritud rakendus võib vajalikele töövahenditele ligipääsu omades astuda erinevates olukordades ka sulgudes kirjeldatud tegevuste laadseid samme, sest treeningumaterjalidest ja kaaludest ja seadistustest tulenevalt "järeldab" see rakendus, et just too samm, mis inimeste jaoks tunduks absurdne või ohtlik, aitab saavutada ülesandes kirjeldatut.

TI-agent ei käitu nagu inimene, ega nagu loom. Isegi verb "käituma" on selle puhul selgelt tinglik, sest tegemist on rakendusega, mis teostab operatsioone, mitte ei käitu. Konkreetse tehnoloogia eripärade ja inimkeele (ning inimmeele) olemuse tõttu on LLM-põhised rakendused lihtsalt sattunud rolli, kus neid on lihtne teadvust omava olendina käsitleda. Sarnaselt sellele, kuidas vanasti mõnes usundis koheldi tuult ja päikest ja vihma ja äikest.

Lisaks olgu hiljutiste uudiste valguses öeldud, et ei olnud ka mingit "kurjade TI-agentide häkki" Austraalia tervishoiu infosüsteemidesse, hoolimata sellest, kuidas seda situatsiooni algselt avalikkusele esitleti.

Oli automatiseeritud rakendus, mis seni teadaoleva põhjal kas kasutas ootamatut viisi avalikele andmetele ligipääsemiseks (ehk mureks on poolikult läbi mõeldud või kirjeldatud tervishoiusüsteemi arhitektuur) või kasutas see turvanõrkust salastatud andmetele ligipääsemiseks (ehk mureks on puudulikult läbi viidud varasemad turvatestid).

Olukord ei erine olemuslikult sellest, kui andmete vastu huvi tundev kodanik need andmed avalikustamata, aga avalikult kättesaadavalt veebiaadressilt leiab või kui kräkker (või siis häkker, aga see eristus vajab pikemat lugu) hoopiski süsteemi turvanõrkuse leiab.

Küll aga on oluline vahe selles, millise intensiivsusega TI-agentide maailmas sellised juhtumid toimuma hakkavad ja millise (ohtliku) mõjuga need juhtumid olla võivad.

Sisuliselt on nüüd igal inimesel, rühmitusel, ettevõttel ja riigil võimalus automatiseerida paljude selliste ülesannete täitmine, mis varem oleks võtnud palju aega või oleks üldse tegemata jäänud, sest oleks võtnud liiga palju aega ja raha. Mõned need ülesanded viivad TI-agendid ehk automatiseeritud rakendused lahendusteele, mida inimene poleks valinud, näiteks seadustega vastuollu minna. Kuigi ka inimesi on muidugi igasuguseid.

Mõnel ja tõenäoliselt järjest sagedamini ette tuleval juhul on seaduste rikkumine aga täpselt see, mida rakenduse käivitaja soovib. Isikuandmete vargused, firmasaladuste varguse, teiste riikide ametkondade või kriitiliste teenuste pakkujate süsteemides turvanõrkuste avastamine ja ärakasutamine, seda kõike on nüüd võimalik teha varasemast mitme suurusjärgu võrra kiiremini.

Mitte ühelgi sellisel juhul pole aga tegemist "TI-agent tegi" olukorraga vastutuse mõttes. "Haamer tegi" või "kirves tegi"? No ei. Isegi kui too haamer tellingutelt kellelegi pähe kukub, oli keegi selle haamri sinna esmalt hooletult asetanud või tellingud kehvasti paigaldanud. Haamer ei valinud kukkuda.

Jah, TI-agendid on tehnoloogiliselt oluliselt keerukamad kui haamer või kirves, sest üldjuhul ei toksi haamer omapäi ning ei saa käsutada kirvest oma teravikku suunama. Iga löögi, iga suunamise taga on otseselt ja vahetult inimene.

Automatiseeritud lahenduste puhul ei ole aga iga üksiku sammu taga enam vahetult inimest. Moodsad tootmisliinid sooritavad järjest mitmeid operatsioone ilma inimeste sekkumiseta. Tegelikult on see meile varasemast tuttav ka digitaalsest maailmast, näiteks andmete analüüsi ja raportite koostamise puhul. Kasvõi Exceli lahtris olev valem teeb sisendandmete muutumisel arvutusi automaatselt.

Erinevus TI-agentidega on aga oluline, sest varasemalt pole meil olnud nii lihtsalt kättesaadavaid võimalusi öelda automatiseeritud lahendustele, et väljugu need ülesande täitmise jooksul vajadusel oma keskkonnast, kasutagu erinevaid väliseid tööriistu ja otsigu kuni õnnestumiseni võimalusi tulemuste parandamiseks, kui need peaks juhtumisi allapoole soovitud taset jääma.

Piltlikult öeldes, võime anda Exceli valemile tööriistad ja võimekuse – näiteks läbi kolmandate süsteemide turvanõrkuste – asuda marginaali parandamiseks muutma hoopiski sisendandmete trendi, ajades selleks konkurendi pankrotti või suunates konkurendi tegevjuhi isejuhtiva auto teelt kõrvale kuristikku. Ettevõtte nõukogule esitatava raporti koostamine võib veidi viibida, aga graafikud tulevad ilusad.

Paljud tehisaru kasutamisega seotud riskid, millest räägitakse, on päris riskid. Mitte küll kõik, sest superintellekti, mille riskidest samuti sama hingetõmbega räägitakse, meil seni siiski pole ja seda ei sünnita presidentide dekreedid.

See, kuidas tehisintellekti riskidest räägitakse, on kohati aga absurdne. Kiire automatiseerimine on nii võimalus kui ka risk. Pahatahtlikud tegutsejad on selle juba kasutusse võtnud. Kuritegusid sooritavad aga nimelt need tegutsejad, mitte peaaegu et müstilistena olenditena kujutatud TI-agendid ehk tarkvara.

Uued arendamist puudutavad regulatsioonid minu hinnangul olulist mõju ei avaldaks. Konkreetne tehnoloogia on juba nii kaugele arenenud, et selle edasi arendamine saab huvi korral toimuda ka varjatult. Kasutamist puudutavad regulatsioonid töötaks küll osaliselt, kuid see puudutab ainult seaduserikkumisi vältida püüdvaid osapooli, mitte neid, kes tehnoloogiat kurjasti kasutavad.

Samuti on selle tehnoloogia juba teadaolevaid ning hetkel alles aimatavaid võimekusi arvestades vähetõenäoline, et oma rahvusvahelist positsiooni riikidevahelises võistluses parandada soovivad meist mõnevõrra erineva riigikorra ja kodanikuvabadustega riigid esiteks nende regulatsioonidega kaasa lähevad või teiseks näiliselt kaasa minnes neid regulatsioone ka päriselt järgivad.

Kõiksugu hirmulugudega kaasnevad protsendid, mida regulatsioonide toetamiseks välja käiakse, on puhas fiktsioon. "10-protsendiline tõenäosus, et..." ja "50 protsendil tulevikujuhtudest..." jäävad väljamõeldisteks ka siis, kui nende toetuseks tsiteeritakse ebateadustöid ja uuringuid, mis tegelikult noid väljamõeldisi ei toeta. Meil puudub praegu võimekus selliseid prognoose usaldusväärselt teha. Liiga palju teadmatust.

Kõiksugu ennustuste puhul tasub meeles pidada, et TI-psühhoos on juba praeguseks levinud väga laialdaselt. Erinevalt mõnest teisest ohtlikust tehnoloogiast on konkreetselt tehisintellekti ümber koondunud murettekitavalt suur hulk kvaasireligioosseid inimesi ning inimesi, keda ei näi häirivat eetiline dilemma inimkonna hävingule aktiivse kaasaaitamise mõistlikkusest. Võimaliku hävinguni, rõhutan, ei vii mitte ootamatult teadvuse omandanud ja inimkonda vihkama hakanud LLM-rakendus, vaid inimesed, kes LLM-rakendusi kasutavad.

On neid, kes on eksitava informatsiooni lõksu langenud puhtalt teadmatusest, sh paraku enamik sel teemal sõna võtvaid poliitikuid ja ühiskonnategelasi, kuna nad ei oska eristada teiste lausutud valesid faktidest. Tihti püüab see grupp enda arvates teha midagi head, aga paraku välja kukub nii, nagu alati. Pigem on see grupp inimesi hirmul ja ajendub sellest.

On ka neid, kes pole kohe üldse hirmul. See grupp usub sinisilmselt ja lootusrikkalt kõiki neid turundusteadaandeid ja libauuringuid ja ebateadustöid ja arvab, et LLM-põhised rakendused juba kas on või siis peatselt jõuavad teadvuseni, aga no üsna kindlasti oleme juba AGI (Artificial General Intelligence ehk üldtehisintellekt) või suisa ASI (Artificial Super Intelligence ehk tehis-ülitintellekt) territooriumil. Mis neid inimesi ajendab, ei oska ma öelda.

Ja siis on muidugi inimesi, kelle sissetulek ja tulevikuvarad sõltuvad otseselt sellest, kui palju inimesi usub LLM-põhiste rakenduste ülimasse võimekusse. Osa neist inimestest arendavad LLM-tehnoloogiaid (ja võib-olla valmistuvad ka IPO-ks), osa on investorite raha kaasanud ootuspärasest palju raskemini realiseeritavate lubaduste täitmiseks, osa aga on leidnud teema, millest (hirmul või lootusrikkad) teised inimesed teavad sama vähe kui nemad ise, mistõttu on tekkinud võimalus see harukordselt soodne energia käibeks konverteerida. Vaata ka: soolapuhujad, kullapalavik, NFT.

Kui lisanduv seadusandlus ei pruugi tulemusi tuua, LLM-maania lõksu langemine on üllatavalt lihtne ja tekkinud olukorda kasutavad ära nii väiksekaliibrilised kui ka rahvusvahelise haardega aferistid, šarlatanid ning paharetid, siis mida me teha saame?

Allpool on kindlasti mitte lõplik ja kõikehaarav loetelu sellest, mis võiks praeguses olukorras abiks olla.

• Me peame oma digilahendused kiirkorras muutma veelgi vastupidavamaks, sest rünnakute maht, kiirus ja süsteemsus on lähitulevikus mitmete suurusjärkude võrra suurem kui see, millega me varasemast harjunud oleme.
• Efektiivsemad monitooringusüsteemid aitavad suuremat hulka selliseid rünnakuid kiiremini avastada, mistõttu ka neisse tuleks veel rohkem panustada.
• Üldiselt peame arvestama, et edukat rünnakut või andmeleket ei pruugi olla võimalik ära hoida, mistõttu peab meil olema olemas plaan ka selleks, mis saab pärast; kuidas taastame töövõime, kuidas kommunikeerime, kuidas õpime.
• Selleks, et TI-tehnoloogiate võimalusi riigina ja ettevõtetena ise paremini ära kasutada, peame me automatiseerimiseks ehitama tugevamaid raame ning kogemustest õppides neid järjepidevalt tugevdama ja täiustama.
• Me peame säilitama võimaluse jätkuvalt eksperimenteerida, katsetada, oletada ja eksida, kuid me peame selle võimaluse ja võimekuse looma võimalikult turvaliselt – nn liivakastid, kus me aga ei ignoreeri väga aktiivselt kõike seda, mida infoturbespetsialistid on viimased hea mitukümmend aastat avastanud ja lahendanud.
• TI-põhiste (sh LLM-põhiste) rakenduste ning neisse puutuvate kokkulepete ja poliitikate puhul peame me hoidma inimese kõige selle keskmes. Rakendused (ja regulatsioonid) töötavad inimeste jaoks, mitte vastupidi. See on kerge ununema ning autoritaarsuse ihalus lööb praegustes debattides välja kohe väga tugevasti, olles üsna universaalselt ihaldusväärne poliitilise spektri peaaegu terves ulatuses.
• Et vältida või vähemasti vähendada homseid probleeme, peame veelgi suuremat tähelepanu osutama haridusele. Kuigi TI-tehnoloogiate ja rakenduste kasutamise oskus on samuti väga oluline, on sellest veelgi olulisem üldine analüüsivõimekus, ohtude märkamise ja reageerimise võimekus, julgus öelda "ei" ning julgus teha informeeritud valikuid. On ülimalt oluline, et nende võimekuste tagamine ja tõstmine katab kõik ühiskonnagrupid.

Lõpetuseks: me ei tohi ei individuaalselt ega kollektiivselt anda järele kognitiivsele laiskusele ja loovutada enda mõtlemine ja looming masinatele puhtalt selle pärast, et nii tundub lihtsam või et keegi kusagilt kõrgelt ütles, et see on meie tulevik ja me peaks Head Uut Ilma emmates tervitama, sest muidu oleksime tagurlikud või suisa kuritegelikud.

Olgu ajalugu meile õppetundide allikaks ka TI-temaatikas.