Kas te saaksite selgitada mida tähendab "joondamine" (alignment) tehisintellektist rääkides? Mida tähendab tehisintellekti joondada?

Joondamise eesmärk on veenduda, et tehisintellektil on samad sihid ja eesmärgid kui inimestel, kes selle lõid või seda kasutavad. Joondamise tähendus võib sõltuda kontekstist. Näiteks, et tehisintellekt ei toodaks ohtlikku sisu, mis on kohatu või pornograafiline. Või see võib tähendada, et tehisintellekt ei anna vastuseid, kui küsida äärmuslike vaadete kohta.

Te ütlesite Tallinnas NATO küberkaitsekoostöö keskuse aastakonverentsil CYCON peetud kõnes, et see on oluline mure, mis tuleb veel lahendada. Miks on nii raske tehisintellekti joondada, et see ei toodaks seda tüüpi sisu?

Suurte keelemudelite treenimiseks kulub meeletu hulk andmeid. See tähendab, et nad õpivad hea kõrval ka halba. Lisaks lugupeetud ajalehtedele loevad nad ka kollast ajakirjandust, äärmuslaste vihaseid postitusi tundmatutel veebilehtedel – nad loevad igasugu halbu asju. On üsna lihtne suurt keelemudelit ässitada, et ta hakkaks rääkima äärmuslikku juttu, rassistlikku või homofoobset juttu.

Selleks on vaja tehisintellekti joondada. Tavaliselt seda tehakse inimeste tagasiside abil. Keelemudel pannakse genereerima tuhandeid lauseid eri teemadel ja teda kas kiidetakse või laidetakse. Inimene hindab, kas see, mida tehisintellekt välja sülitab, on sobiv või mitte.

See on see, kuidas tehisintellekti panna tegema seda, milleks see mõeldud on. Mure on selles, et see tehnoloogia on nüüdseks teada-tuntud ja teised inimesed saavad teha sama. Võib keelemudeli alla tõmmata ja selle välja koolitada äärmuslikku sisu tootma, paremäärmuslaste propagandat või Venemaa propagandat või ükskõik, mis propagandat tootma.

Te toote juba näiteid ohtudest, aga kui rääkida veel laiemast tehisintellekti rakendamisest, selle sõjaväelisest rakendusest ka, siis millised on ohud? Oma kõnes mainisite, et tehisintellekt võib üks hetk minna hiinlaste poole üle.

Ma toon näite. Kui isejuhtivaid sõidukeid testides on üks nõue, et kui sõiduk satub segadusse, siis peab see seisma jääma nii, et see ei lahku sõidurajalt, kus ta parasjagu on. Tuleb välja, et see on võimatu, sest tavaliselt, kui isejuhtiv auto satub segadusse, ei tea see enam, millisel sõidurajal ta on. See sõidab teetööde vahel või mõnes teises tavapäratus olukorras ja kaotab lihtsalt ruumitaju.

Võimatu on järgida ohutusreegleid, kui sa ei mõista järjepidevalt olukorda ja konteksti. Nüüd kui sama näide tõsta veel keerulisemasse olukorda, näiteks sõtta – on olemas sõjaseadused, näiteks vaenlase sõdureid võib sihikule võtta, aga tsiviilisikuid mitte –, siis sa saad nendest reeglitest kinni pidada ainult nii kaua, kui sa mõistad olukorda ja konteksti. Mured, millega me hästi hakkama ei saa, kui me üritame luua turvalisi isejuhtivaid autosid, ilmnevad taas hulgi, kui me hakkame lahinguroboteid ehitama.

See on alles teine samm. Kolmas samm on see, kui robotid ei täida enam vaid tavalise sõduri rolli, vaid annavad ka käske. Siis tuleb selgitada sõdimise põhjuseid, peab mõistma väärtusi.

Hiina puhul on see lihtne. Kõigi robotite kohustus on kaitsta Hiina kommunistliku partei võimu ja teisitimõtlejad maha suruda. Läänes on meie sihid ja eesmärgid palju rohkem laiali valgunud, keerulised ja raskesti kirjeldatavad. Kuidas ühe leheküljega kirjeldada, mida tähendab demokraatia ja õigusriik? See on tavaliselt terve kursus. Kasvõi ühiskonnaõpetus gümnasistidele. Seal on palju keerulisi kohti ning palju vastuolu. On vaidluskohad. Iga generatsioon peab kõike seda tõlgendama enda jaoks, see juhtub iga generatsiooniga uuesti ja uuesti. Väga raske on joondada juhtivat tehisintellekti selle ühiskonna väärtustega, mida tehisintellekt kaitsma peab.

Selles olukorras on eraldi risk, et kui meie luure- ja sõjaväeasutused annavad robotitele salajased käsud käituda nii nagu Hiina robotid, hiinlasi pealt kuulata. Siis need robotid võivad jõuda järelduseni, et lääs on lihtsalt silmakirjalik ning Hiina on õige maailma ülemjõud.

Moraalse surve all reetis Edward Snowden USA riikliku julgeolekuagentuuri ja rääkis oma loo ajalehtedele Guardian ja New York Times. Ma ei usu, et see on võimatu, et tulevikus mõni kaitse- või luurerobot võib samasuguse surve all mõelda, et loogiliselt oleks mõistlikum teenida Hiina huve.

Kuidas me selle mure lahendame? Te mainisite, et roboteid tuleb õpetada natuke nagu me oma lapsi õpetame, aga robotitega on see keerulisem. Neil ei ole lapsepõlve, nad ei kasva üles nii, et nende vanemad annavad neile nõu. Kuidas me neid õpetame?

See on midagi, mis vajab veel teadustööd. Praegu räägivad tehisintellekti filosoofid trammi probleemist (filosoofiline mõtteeksperiment, mis küsib, kas mitme inimese elu päästmiseks on õige tramm suunata teisele teele nii, et hukkub vaid üks inimene – toim). Nad räägivad sellest, kuidas sa saad lihtsalt anda robotile käske, et päästa ühe inimese elu teise elu arvelt. See tõenäoliselt ei ole see, kuidas asjad päriselt toimivad, kui me jõuame tehisintellektist edasi üldise tehisintellektini.

Ma arvan, et iga tehisintellekt, mis hakkab lähenema üldisele tehisintellektile, peab läbima mingi haridustee, lapsepõlve ja noorukiea. Nii nagu kõik teavad, kes on kasvatanud teismelist, see võib olla üsna traumaatiline. Kuskil 12–13-aastaselt hakkavad nii poisid kui ka tüdrukud vanemate autoriteedile vastu põiklema, nad hakkavad tegema asju, mida nad ei peaks tegema.

Nad katsetavad alkoholi või tubakaga või tulevad koju kell kaks öösel. Selleks, et piire katsetada, näidata, et nad kasvavad suureks. Kujutate ette, kui suurele ettevõttele kuuluv tehisintellekt hakkab nii käituma? Mis siis, kui telekommunikatsiooni ettevõte otsustab, et ta on teismeline?

Üsna hirmutav. Kui kaugel me sellest oleme? Arvutiteadlased ütlevad, et tehisintellekt näiliselt teeb väga keerulisi asju, kuid tegelikkuses on see vaid tühi kest. Arvutil ei ole sellist sisemist elu nagu inimestel. Kas teismeline tehisintellekt saab mureks alles tulevikus, kui meil on üldine tehisintellekt?

Ma ei ole üks neist, kes ütleb, et me oleme hukule määratud. Ma ei usu, et suured keelemudelid viivad meid otsejoones üldise tehisintellektini, aga on teisi väga tarku inimesi, keda ma austan ja kes arvavad teisiti. Geoffrey Hinton, suurte keelemudelite leiutaja, näiteks usub seda, et keelemudelid on tee üldise tehisintellektini ja et seal on tõsised ohud. See on põhjus, miks ta läks Google'ist paar nädalat tagasi minema. Ning kirjutas ühena alla kirjale, mis hoiatas, et me peaks tehisintellekti kohtlema eksistentsiaalse ohuna.

Isegi kui ma isiklikult ei usu, et keelemudelitest läheb tee otse üldise tehisintellektini, siis me õpime nii palju keelemudelitest, et 10 või 20 aastat edusamme ja võib-olla me leiutame üldise tehisintellekti. Kui nii juhtub, parem oleks, et me selleks valmis oleme.

Me peame ette mõtlema sellistele muredele nagu joondamine. Kui valitsused hakkavad laialdaselt kasutama tehisintellekti, muutub see veel tähtsamaks, sest valitsused on palju keerulisemad kui ettevõtted. Firma nagu IBM eksisteerib vaid selleks, et kirjutada tarkvara oma klientidele, Facebook selleks, et müüa reklaami. See on üsna lihtne, aga valitsused ei eksisteeri ühe kindla asja tegemiseks.

Valitsused on selleks, et lahendada ühiskonna lahkhelisid – rikaste, kes tahavad vähem makse maksta ning vaeste vahel, kes tahavad paremaid tervishoiuteenused. Noorte, kes tahavad, et ehitatakse palju maju, et nad saaks kodu osta ja pere luua ja vanade vahel, kes ei taha, et nende ilus vaade ära rikutaks.

Igas ühiskonnas on palju tülisid, seega valitsused valetavad tihti. Poliitikud ütlevad ühte asja Peetrile ja teist Paulile. Alles nüüd, kui meil on internet, me saame jälgida, mida nad on öelnud. Nüüd teevad poliitikud suuri ümmargusi lubadusi, mida kunagi ei teostata. See kõik on täiesti arusaadav, arvestades, mis valitsemine üldse on. Kui sa kaasad valitsemisse tehisintellekti, mis peab tegema kõike ja mitte midagi ning paljudele inimestele pakkuma palju asju samal ajal. Kust saab see tehisintellekt oma moraalse suunise? Kes on rooli taga?

Kas ma olen teist õigest aru saanud, et kuna autoritaarne riigikord on lihtsam, siis seda on lihtsam õpetada? Hiina valitsus lahendab neid konflikte, mida te just kirjeldasite, üsna lihtsal viisil. Tihti nad ütlevad lihtsalt, mis edasi saab. Kas meil on oht, et diktaatorid saavad tehisintellekti oma heaks kasutada palju hõlpsamalt, kui meie keerulised demokraatlikud ühiskonnad?

Päris nii lihtne see ei ole, sest Hiina üritab tehisintellektiga teha teisi asju kui meie. Hiina keskendub järelevalvele. Hiina kasutab palju näotuvastust. Neil on palju turvakaameraid avalikes kohtades. Nad märkavad sind, kui sa oled Tiibetist või kui sa ole uiguur või neile teada riigivaenlane. Seda kõike tehakse kommunistliku partei võimu nimel.

Samas suured keelemudelid hiinlastele ei meeldi, sest tänapäevaseid keelemudeleid on väga raske joondada. Hiinas tähendaks see, et need ei ütleks kunagi midagi salgavat kommunistliku partei kohta. Ma olen kindel, et paljud inimesed Eestis mäletavad nõukogude aega, kui Brežnevi kohta ei tohtinud midagi halba öelda. Sellises ühiskonnas on väga raske keelemudeleid kasutada.

Läänes samas oleme väga palju panustanud suurtele keelmudelitele, me rakendame neid igal pool. Lääne ja Hiina teed on läinud lahku. Kuid on üks konks. Paljud arengumaad tahavad Hiinast saada investeeringuid, sest Hiina pakub neile hulgi raha, et neid lääneriikide mõjuväljast eemale kiskuda. Hiinlased üritavad nii Aafrikast, Lõuna-Aasiast kui ka Lõuna-Ameerikast kindlustada maavarade ja toiduainete tarneahelad.

Teine külm sõda võib väga vabalt toimuda Kolmanda Maailma lahinguväljadel. Seal sõjas ei pruugi võidelda partisanid ja seal ei pruugi toimunud terrorismivastased operatsioonid. See võib olla IT-süsteemide ja tehisintellektide, mida kasutatakse ettevõttete ning valitsusasutuste juhtimiseks, vaheline konflikt.

See kõik on pigem vaade tulevikku, kuid juba praegu puutuvad tavalised inimesed tehisintellektiga kokku. ChatGPT populaarsus on plahvatuslikult kasvanud, isegi kui paljude jaoks on see jäänud mänguasjaks. Kas meil on ka igapäevaelust näiteid tehisintellektist, mis ei ole joondatud? Kas see kuidagi juba praegu tavalist inimest mõjutab?

Palju sellest, mida praegu veebilehtedelt näha, on see, mida ökonomistid nimetavad kõntsaks, mis on justkui halb nügimine. (sludge ja nudge; nügimine on majanduses ja psühholoogias tuntud termin, mis tähendab üldiselt mitte silmapaistvate või segavate võtetega inimesi mingi otsuse poole suunamist – toim.) Ma lendasin siia Londonist Ryanairiga ja kui Ryanairiga lennata, siis peab nende veebilehega võitlema, mis üritab sulle müüa lisapagasit, parkimiskohti, hotellitube. Kõike aina rohkem ja rohkem.

Tuleb väga püüdlikult keskenduda, et saada just seda, mida sa tegelikult tahad. See on tänapäeva maailm. Isegi veebiotsing on katki. Kui sa otsid Hiltoni hotelli, siis ilmselt esimesed seitse vastust on teenuse vahendajad, mitte hotell ise.

See on internetimajanduse tulemus ning tehisintellekti majandusmudel ei tule kuidagi teisiti. Ma toon näite, kuidas kõik võib valesti minna. Üks võimalus on, et suured keelemudelid saavad vanematele inimestele pakkuda seltskonda. Kui inimesed saavad 70 või 80 aasta vanuseks, jäävad nad tihti üksikuks, sest nende sõbrad on surnud või dementsed. Vanematele inimestele seltsi pakkumine on sotsiaalselt väga väärtuslik. Kui sa oled rikas, siis sa saad palgata koduabilised. Kui ei, siis sa oled lihtsalt üksildane.

Tõenäoliselt me näeme palju ettevõtteid, mis toodavad roboteid, mis pakuvad inimestele seltsi, räägivad nendega läbi kõlarite või teksti teel nutitelefonides. See kõik toob neile ettevõtetele meeletult tulu. See teeb inimesi rõõmsamaks, tõenäoliselt elavad nad kauem ja saavad näiteks kutsuda abi, kui nad kukuvad. Samas seda süsteemi on väga lihtne kuritarvitada. Kui inimesed usaldavad neid keelemudeleid, siis saab neile näiteks müüa igasugu kaheldava väärtusega investeerimisvõimalusi.

Tehisintellekti joondamine on siis viis seda kõike vältida? Mis oleks hea tulevik? Kui palju tehakse selle suunas edusamme?

Suured, tehisintellekti ettevõtted panustavad palju eetikasse, aga see ei tähenda, et sellel on järgmised kaks, kolm aastat tehisintellekti arengu rõhuasetus. Masinõpe eksisteerib tänaseks teenusena, ükskõik kes saab alustada start up'iga ja pakkuda oma teenuseid, mis põhinevad näiteks ChatGPT-l või muul sarnasel, mida saab Microsoftilt rentida. Või saab alla tõmmata ühe paljudest vabavara mudelitest. Me hakkame nägema väga kiiret tehnoloogilist arengut, keelemudelid töötavad järjest ja järjest odavamal tarkvaral ning neid saavad kolmandad osapooled üha rohkem ja rohkem mudida.

Tuleb üha rohkem ja rohkem start up'e, osad neist pahatahtlikud või lausa õelaid, mis hakkavad mingis vormis masinõppega tegelema.

See on ikka üsna pessimistlik või hirmutav perspektiiv. On ka midagi head oodata või oleme hukule määratud?

Ei-ei, me ei ole hukule määratud. Sellised tehnoloogilised revolutsioonid tulevad mõnikord ja kunagi ei saa ette öelda, mis juhtuma hakkab. Kui Gutenberg leiutas trükipressi, siis ei kujutanud ta ette, et Erasmus teeb uusi tõlkeid piiblist. Siis naelutas Martin Luther teesid kirikuuksele Wittenbergis ning tuli sada aastat sõda, valgustusajastu ja kõik muu. Seda ei olnud võimalik ette ennustada, aga kui minna ajas tagasi, kas siis kägistada Gutenberg hällis.

Ilmselt mitte!

Täpselt!