Viimase poole aasta jooksul on ilmunud hulk uudiseid juhtumitest, kuidas tehisaru võib ise, ilma inimkontrollita tegutseda ja murda sisse tehisaruga tegutsevatesse ettevõtetesse. On tulnud ka ette juhtumeid, nagu Austraalia valitsuse andmebaasidesse sissemurdmine. Eelmine nädal nägime, kuidas mõjukad tehisaruteadlased ja ettevõtete juhid käisid ÜRO-s rääkimas sellest, kuidas tehisaru võib kontrolli alt väljuda ja on inimkonnale võib-olla isegi väga suur oht.

See kõik tundub natukene nagu pärinevat düstoopilisest ulmeromaanist, aga kas see kõik on siis päriselt nii dramaatiline või on asi tegelikult keerulisem? Kas tehisaru on inimkontrolli alt väljunud ja murrab igale poole sisse?

Kui sa nii küsid, siis ma vastan, et see ei ole täpne kirjeldus. Kui vaadata neid juhtumeid, siis tehisaru agendid – tarkvaraprogrammid, mis kasutavad suuri keelemudeleid tsükliliselt oma tegevusi planeerides, analüüsides ja kohandades, kuni nad saavutavad oma eesmärgi – ei ole teadlikud ega tegutse iseseisvalt.

Need juhtumid näitavad, kuidas tehisaru agendid püüavad saavutada oma eesmärke, minnes esialgsetest parameetritest väljapoole. Alati suunab nende tegevust inimene ja need raamistikud või parameetrid on sinna loonud inimene, kes on olnud kas veidi lohakas, andnud tehisaru agentidele liiga suure vabaduse, või on tegemist disainivigadega viisis, kuidas agent on üles seatud.

Neid näiteid on üsna palju, kuidas tehisaru agendid püüavad saavutada oma eesmärke ja kasutavad ära igasuguseid tagauksi. Need tagauksed on liiga paindlikud käsud, mida inimene on neile andnud. Seal ongi see oht, et me kasutame tööriista, aru saamata selle kõikidest võimalustest, ja anname sellele tööriistale liiga vabad käed.

Kui suutlik tehisaru ja need agendid tänapäeval ikkagi on? Kas see on midagi murdelist, et tehisaru on süsteemidesse sissemurdmisel tänapäeval mõnikord isegi targem kui inimene või suudab sinna virtuaalselt rohkem töötunde pühendada? Kas me näeme hüpet selles, mida suudavad need agendid teha võrreldes sellega, mida häkkerid kunagi on suutnud teha?

Meie eksperdid, vaadates, mida tehisaruga täna saavutatakse, ütlevad, et see on nagu häkker, kellele on antud väga suur lisavõimendus. Tehisaru eesmärgid on siiski üsna sarnased nendele eesmärkidele, mida inimesed annavad omaenda meeskondadele.

Huvitav on ka aru saada, et hästi paljud neist tehisarumudelitest on loodud spetsiifiliste ülesannete täitmiseks ja ülesandega seotud andmestik on olnud baas, millelt seda tehisaru on arendatud. Küberturvalisuse valdkonnas on näiteks mitmed mudelid arendatud vabavara baasil ehk neile on sisse söödetud miljoneid ja miljardeid ridu vabavara tarkvarakoodi ning selle pinnalt on neid õpetatud leidma nõrkusi. Nad on väga head nende nõrkuste ülesleidmisel ja nad on ka üsna head nende nõrkuste ärakasutamisel.

Kus nad ei ole head, on nende nõrkuste kinnilappimine. See vajab tihtilugu palju rohkem aega ja inimese sekkumist. Seetõttu näeme, et ka küberkurjategijad kasutavad neid mudeleid üha rohkem just nimelt samade nõrkuste leidmiseks, et nende kaudu varastada andmeid või tõkestada süsteemide toimimist.

Küberkurjategijad kasutavad tehisaru üha rohkem nii nõrkuste leidmisel tarkvarasüsteemides kui ka näiteks infomanipulatsioonides ja petuskeemides. Seal kasutatakse tarkvara tõetruuna tunduva sünteetilise hääle või pildi loomiseks. Selle najal petetakse inimestelt välja sissepääsukoode, andmestikke või muud sellist, mis võimaldab hiljem neilt raha välja pressida.

Tulles tagasi ulmeromaani võrdluse juurde, siis on kirjutatud ka stsenaariume sellest, kuidas kujutame ette kauget tulevikku, kus internetti peaaegu ei saagi kasutada. Seda seetõttu, et turvalist süsteemi ei ole lihtsalt võimalik ehitada, sest läbi tehisaruvõtete on kõik pahatahtlikud tegutsejad nii nutikad. See on hirmustsenaarium. Aga kui kaugel me sellest päriselt oleme?

Alati tasuks meeles pidada, et digimaailma sisenedes – minnes internetti või vaadates elektroonilist postkasti – peab olema alati veendunud, et informatsioon, millele ligi pääseme, ei pruugi olla tõene ega tõepärane.

Kui mõelda tagasi 1990-ndatesse, siis nende alguses oli üsna tavaline, et enamus e-kirjakasti sisust oli rämpspost ja tüütu praht. Sellest tuli ennast läbi sorteerida, et tõelise sõbra kiri üles leida. Kahjuks toimub tõenäoliselt täna see, et üsna palju avalikult kättesaadavast internetisisust ei ole enam inimese loodud. See on mingil määral tehisaru poolt manipuleeritud või suunatud ja seda tulebki teadlikult nii võtta.

Ma olen optimist ja usun, et tegelikult leitakse üsna pea viisid, kuidas filtreerida välja tehisaru poolt loodud sünteetiline informatsioon ja inimese loodud autentne informatsioon.

Kuna nõudlus selle järele on olemas, küllap leitakse ka lahendus. Ma ei oleks nii pessimistlik, et öelda, et nüüd on otsas see aeg, kui inimene saab ise internetis toimetada ja me peame sinna mingisugused tehisaru agendid panema. Eks näis, aga katsun nendes küsimustes pigem optimist olla.

Miks ma neid pessimistlikke võrdlusi toon, on see, et nagu ma sissejuhatuses mainisin, esinesid eelmisel nädalal ÜRO-s tipptehisaru arendajad ja teadlased. Minu tõlgendus nende jutust oli see, et nad ütlesid maailma juhtidele: me ei saa ise enam selle tehnoloogiaga hakkama ja meil on vaja maailmatasemel regulatsiooni või kokkulepet, kuidas me sellega edasi tegutseme. Muidu on see metsik lääs. Osa hoiatasid seal täitsa inimkonna huku eest, mis kõlab ÜRO-s väga hirmutavalt, eriti kui räägime oma valdkonna spetsialistidest. Kas meil on vaja tehisarus mingisugust maailmaülest reguleerimist või kokkulepet selle kohta, kui palju me seda kasutame ja arendame?

Kindlasti oleks vaja kokkuleppeid aru saamaks, milliseid riske me ühiskonnana aktsepteerime või mitte. Euroopa on siin eeskäija: Euroopas on juba mitu aastat olemas üleüldine raamistik, mis reguleerib seda, milliseid tehisaruga seotud teenuseid või tegevusi peetakse riskivabamaks ja millised on kõrgendatud riskiga. Samuti reguleerib see, mida see tähendab tehisaru loojatele ja rakendajatele: milline on vastutuse määr ning kuidas nad peavad riski maandamiseks oma süsteeme konfigureerima ja nendega toimetama. Sellega peaksidki kõik tehisaru arendajad tegelema.

Ma oleksin natukene skeptiline globaalselt väga suurte, võimsate ja finantsiliselt hästi varustatud suurettevõtete juhtide hoiatuste suhtes. See kõlab natuke nagu vastutuse endalt ära lükkamise ja veeretamisena. Täna ei takista miski neil reegleid järgida ja veenduda, et viis, kuidas nad tehisaru arendavad, oleks võimalikult riskivaba.

Absoluutselt kõiki riske loomulikult kunagi maandada ei saa, kuid vaadates tänaseid olukordi, kus tehisaru agendid on kontrolli alt väljunud, on tihtilugu küsimus selles, kuidas neid agente on rakendatud, konfigureeritud või milliseid rakendeid on nende suunamisel kasutatud. Kõik need on inimese kontrollitavad, ülevaadatavad ja suunatavad tegevused. Seega ei ole seal elementi, kus saaks öelda, et nad ei suudaks iseenda loodud tarkvarasüsteemi ohjeldada – tegelikult on neil selleks kõik hoovad olemas.

Me oleme rääkinud häkkerigruppidest, globaalsetest suurtest ettevõtetest ja Euroopast, aga kui palju on siin rolli riikidel ja kui palju on sellel kõigel geopoliitilist tausta? Näiteks ÜRO kohtumise peale, kus räägiti ülemaailmsetest tehisaru regulatsioonidest, ütles USA president, et see kõik on jamps ja me ei peaks tehisarule päitseid pähe panema. Me teame ka seda, et küberturvalisuse valdkonnas tegutsevad häkkerigrupid päris tihti pool- või isegi täisriikliku suunisega, olgu see siis Venemaa või Hiina. Kui palju on tehisaru osa sellisest geopoliitilisest võitlusest – kas seda reguleerida või mitte ja kas riigid võistlevad omavahel, et seda ära kasutada?

Kindlasti on seal see aspekt ka. Ma ise ei ole poliitik, mistõttu ei ole mul paslik seda kommenteerida. Tehniliselt vaadates, kuna minu agentuur seisab eelkõige küberturvalisuse eest, oleme ka meie andnud tarkvaraarendajatele välja tehnilisi nõuandeid, kuidas tehisaru turvaliselt arendada.

Tehnilise poole pealt ei saa öelda, et ei oleks teadmist või arusaama, mida tegema peab. Ma arvan, et ekspertidel – olgu nad siis tarkvaraeksperdid, tehisaru arendajad või küberturvalisuse eest vastutajad – on olemas baas ja pagas turvaliste süsteemide arendamiseks. Nad suudavad neid luua selliselt, et riskid, kus tehisaru agendid väljuvad kontrolli alt, oleksid võimalikult minimaalsed.

See kõik on meeletult põnev ja inimkujutlus omistab alati inimese enda omadusi loodusele või tehnoloogiale, mida sellel tegelikult ei pruugi olla. Tehisaru ju tegelikult ei mõtle. Kui palju sellest, mida tehisaru küberturvalisuse valdkonnas teeb, on tõesti midagi uut või on need lihtsalt vanad trendid, aga võimsamalt?

Mida me näeme, on see, et enamus tehisaru või tehisaru agentide poolt võimendatust ei ole isegi unustatud vana. Need on vanad tehnoloogiad, meetodid ja protseduurid, millele on antud tehisaru võimendus. Kindlasti on ka uudseid elemente. Ma mainisin ennist nõrkusi tarkvarasüsteemides, aga kõik nõrkused ei ole ärakasutatavad ja tihtilugu klassifitseeritakse need keskmise tähtsusega või isegi ebaolulisteks nõrkusteks. Mis vahet on, kui anum, millest vett jood, on väikese mõraga, kui see on endiselt vettpidav – nõrkus on sees, aga see pole määrav.

Uute tehisarumudelite puhul on aga uudiseks see, et neid väikesi nõrkusi kokku liites suudavad nad leida viisi, kuidas tarkvarasüsteemi sisse murda. See on võib-olla uudne element. Aga lõppkokkuvõttes on need meetodid ja viisid, kuidas nad tarkvarasüsteeme testivad, üsna sarnased sellele, mida oleme teinud juba kümneid ja kümneid aastaid.

Täiesti tavalise inimese vaatest ühe lausega, mis siit kaasa võtta: kuidas hoolitseda selle eest, et me ei langeks internetis nendesse lõksudesse, mis võivad olla ehitatud keeruliste tehisaru abivahenditega?

Pole mõtet kunagi oma andmeid kolmandatele isikutele edastada ega erinevatele linkidele klõpsata.