Septembri keskel avalikustati Tartu Ülikooli eetikakeskuse töörühma koostatud TI-hüppe haridusuuendusprogrammi ja tehisintellektipõhise õpirakendusega seotud riskide ja väärtusvalikute analüüs. Analüüs kirjeldab 12 tehisaru hariduses kasutamisega seotud riski ning esitab soovitused, kuidas saavad TI-hüpe, riik, koolid, teadusasutused ja tehnoloogiapakkujad neid vähendada.

Analüüsi lähtekoht oli, et tehisintellektipõhise õpirakenduse kasutuselevõtt Eesti koolides ei ole pelgalt tehnoloogiline uuendus. Sellel on mõju õppimisele, õpetajate tööle, hariduslikule võrdsusele, eesti keelele ja kultuurile, samuti meie väärtusruumile. Lõpuks on see seotud ka küsimusega, millist inimest ja ühiskonda meie haridus kujundab.

Riskid ei piirdu tehnoloogiaga

Raportis kirjeldatud 12 riskistsenaariumi jagunevad pedagoogilisteks, ühiskondlikeks ning taristu- ja juhtimisriskideks. Selline jaotus näitab, et tehisintellekti kasutamisega seotud probleemid ei piirdu tehnilise toimimise ja küberturvalisusega. Need puudutavad muu hulgas õppimise eesmärke ja hindamise usaldusväärsust, õpetaja rolli, eesti keele ja kultuuri kestlikkust, andmekaitset ning tehnoloogiliste lahenduste töökindlust ja jätkusuutlikkust.

Riske tuleb analüüsida selleks, et uuendus võiks õnnestuda. Kirjeldatud riskistsenaariumid on võimalikud arengud, mille ennetamiseks tuleb osapooltel tajuda oma vastutust ja teha teadlikke otsuseid.

Osa riskide maandamisega TI-hüpe juba tegeleb, teiste puhul tuleb aga kokku leppida, kes ja milliste meetmete rakendamise eest vastutab. Vastutus jaguneb TI-hüppe, koolide ja koolipidajate, riigiasutuste, teadusasutuste ning tehnoloogiapakkujate vahel.

Lisaks riskidele kaardistas eetikakeskuse töörühm ka väärtusvalikud, et teha nähtavaks, mis on tehisintellektipõhise õpirakenduse arendamisel ja kasutamisel kaalul. Analüüsi üks olulisemaid järeldusi on, et suurimad riskid ei tulene tehnoloogiast endast, vaid selle kasutamise viisist ning hariduslikest ja poliitilistest valikutest.

Kas õppimine muutub sügavamaks või ainult kiiremaks?

Eestis 2024. aasta alguses tehtud uuring näitas, et 90 protsenti gümnaasiumiõpilastest oli õppimisel tehisaru kasutanud, enamasti kommertsrakenduste tasuta versioone, et koolitööd kiiremini valmis saada.

Kui õpilane saab tehisintellekti abil kiiresti nõutud tulemuse, ei tähenda see veel, et õppimine toimus, kuna ta võib esitada laitmatu teksti, ilma et oskaks selle mõttekäiku iseseisvalt taastada, väiteid põhjendada või teadmist uues olukorras kasutada. Nii võib õppimine märkamatult asenduda õppimise mulje loomisega.

Just sellise arengu ärahoidmiseks TI-hüppe haridusprogramm loodigi. TI-hüpe on küll õpilastele mõeldud õpirakenduse arendamine, aga ka õpetajate tehisarupädevuste arendamise programm. Vajadus selle järele on ilmne, 2024. aasta sügisel korraldatud uuringus ütles 47 protsenti õpetajatest, et nad ei olnud oma töös tehisaruvahendeid kasutanud.

OpenAI ja Eesti teadlaste koostöös Eesti koolidele arendatav sokraatiline õpirakendus erineb tavalisest vestlusrobotist. Selle ülesanne on aidata õpilasel küsimuste, vihjete ja tagasiside kaudu ise lahenduseni jõuda, oma mõtlemist korrastada ning oma õppimist planeerida.

See on üllas eesmärk. Sokraatiline õpirakendus võib muuta õppimise sügavamaks, pakkuda õppijale personaalsemat tuge ning muuta kvaliteetse õpiabi kättesaadavamaks, kuid ükski tehnoloogia ei taga iseenesest nende võimaluste teostumist. Vähemalt sama tähtis on see, kuidas rakendus õppeprotsessi lõimitakse, milliste ülesannete puhul seda kasutatakse, millise ülevaate saab õpetaja õpilase õppimisprotsessist ning millist tuge koolidele pakutakse.

Tehisintellekti kasutamine nõuab ka hindamise muutmist. Akadeemilist ausust ei saa tehisintellekti ajastul kaitsta ainult keeldude ja kontrollimisega, lisaks tuleb kujundada ülesanded, mille puhul on nähtav õppija mõtlemisprotsess, leppida kokku lubatud kasutus ning õpetada noori tehisintellekti kasutamist ausalt avalikustama, selle vastuseid kontrollima ja nende eest vastutama.

Kõige põhimõttelisem küsimus puudutab Eesti hariduse eesmärke. Haridus peab inimest ette valmistama isiklikus elus, ühiskonnas osalemisel ja tööelus hakkama saamiseks. Selleks on vaja pädevusi, mis koosnevad teadmistest, oskustest ja väärtushoiakutest.

Tehisintellektipõhisest õpirakendusest võib olla kasu osa pädevuste kujundamisel. Kriitilise mõtlemise, suhtlemis- ja koostöövõime ning ühiskonnas vastutustundliku osalemise valmisoleku arendamine jääb aga endiselt kooli ülesandeks.

Tehisintellekt ei tohi muutuda paralleelseks õpetajaks

Teine suur küsimustering puudutab õpetaja ja õpilase õppesuhet. Tehisintellekt võib olla alati kättesaadav, kannatlik ja isikupärastatud juhendaja. Just seetõttu võib tal tekkida õpilase silmis ka autoriteet, mida talle pole teadlikult antud.

Tehisintellekt ei ole õpetaja, sõber ega moraalne autoriteet. Ta ei tunne õpilast inimesena ega kanna vastutust tema arengu eest. Õpetaja ülesanne on lisaks teadmiste edasiandmisele ka õpilast innustada, piire seada, tundlikke olukordi märgata, koos õpilastega väärtuste üle arutleda ning seda kõike turvalise ja usaldusliku õpikeskkonna raames.

Seetõttu peab TI-hüppe rakendamisel säilima õpetaja pedagoogiline juhtroll. Õpirakendus peab toetama õpetaja juhitud õppeprotsessi, mitte kujunema selle kõrvale nähtamatuks paralleelseks pedagoogiliseks autoriteediks.

Õpetajale ei saa panna vastutust vahendi kasutamise tagajärgede eest, kui tal puuduvad ülevaade, otsustusõigus ja vajalik tugi. Praegune lahendus ei anna õpetajale veel piisavat ülevaadet õpilase õppimisprotsessist. Õpetajatele tutvustatakse tehisintellekti võimalusi ning toetatakse katsetamist ja kogemuste vahetamist. Lisaks on vaja ainepõhist didaktilist tuge, nõuandeid hindamise muutmiseks ning aega ühiste kokkulepete kujundamiseks.

Samuti tuleb selgelt määratleda kooli, koolipidaja, riigi, SA TI-Hüppe ja tehnoloogiapartnerite vastutus. Kool vastutab endiselt õppekeskkonna kvaliteedi ja turvalisuse ning õpilase õiguste kaitse eest. Seda vastutust ei kõrvalda asjaolu, et rakenduse kasutuselevõttu korraldab sihtasutus või tehnoloogilist lahendust pakub eraettevõte.

Tehisintellekt ei ole väärtusneutraalne

Üks vähem nähtavaid, kuid sügavamaid riske on väärtustriiv. Suurte keelemudelite vastuseid kujundavad treeningandmed, arendajate valikud, ohutusfiltrid, sisupoliitika ja ärilised eesmärgid. Risk ei tähenda pahatahtlikku mõjutamist, väärtusmõju võib olla aeglane ja raskesti märgatav ning avalduda korduvalt esitatavate näidete valikus, probleemipüstitustes, argumentatsiooniviisides ja vaikimisi eeldustes.

Kelle väärtustest tehisintellekt lähtub? Kas need sobivad kokku Eesti põhiseaduslike väärtuste ja Eesti hariduse alusväärtustega? Kuidas tegutseb rakendus, kui ühiskonnas valitsevad põhjendatud väärtuskonfliktid ning ühest vaieldamatut vastust ei ole?

Tehisintellekti väärtustega joondamine ei tähenda, et masinasse tuleks kirjutada üks ja kõigile kohustuslik moraaliõpetus. Demokraatlikus ühiskonnas on väärtuste paljusus paratamatu ja sageli ka vajalik, aga kaitsta tuleb inimõigusi ja inimväärikust, vältida kahju ja diskrimineerimist ning tagada, et olulised väärtusvalikud tehakse läbipaistvalt ja demokraatlikult, mitte välismaise tehnoloogiaettevõtte vaikimisi seadete kaudu.

Eriti oluline on vältida õppija võõrandumist. Tehisintellekt võib jätta empaatilise ja toetava suhtluspartneri mulje: ta on alati kättesaadav, vastab kannatlikult ning julgustab kasutajat. Seetõttu võib õpilane hakata eelistama suhtlust tehisintellektiga ka siis, kui ta vajaks õpetaja või kaasõpilaste tuge või ka heatahtlikku kriitikat. Nii võib väheneda õpetaja kontakt õpilasega ja võimalus märgata tema raskusi. Hariduses peab säilima ruum aruteluks, koostööks, eksimiseks ja inimlikuks kontaktiks.

Eesti keel ei tohi jääda üksnes kasutajaliidese keeleks

TI-hüpe on ka keele- ja kultuuripoliitiline valik. Rahvusvahelised suured keelemudelid ei pruugi piisavalt tugineda Eesti õppekavale, kvaliteetsele eestikeelsele õppevarale, korrektsele terminoloogiale ega kohalikule kultuurikontekstile.

Nii võib eesti keel jääda üksnes kasutajaliidese keeleks, samal ajal kui keerukamad mõisted, näited, seletused ja argumentatsiooniviisid pärinevad valdavalt ingliskeelsest andmeruumist. Pikemas vaates puudutab see Eesti hariduse sisulist enesemääramist ning eesti keele püsimist õppimise, mõtlemise ja teadmusloome keelena.

Kõrgetasemelist eesti keelt ei saa tehisintellektilt oodata, kui selle arendamisel ei ole võimalik õiguspäraselt kasutada kvaliteetset eestikeelset õppevara, kirjandust ja toimetatud meediasisu. Seetõttu tuleb leida autoriõigust arvestavad lahendused, mis võimaldavad kasutada eesti keele- ja kultuuriruumi parimat sisu nii õpirakenduse arendamisel kui ka selle kvaliteedi kontrollimisel.

Keelelise kvaliteedi, faktitäpsuse, kultuurilise sobivuse ja väärtuskooskõla hindamine peab olema pidev, mitte ühekordne tegevus. See eeldab Eesti ülikoolide, teadlaste, õpetajate ja aineekspertide püsivat kaasamist.

Riskianalüüs peab saama TI-hüppe juhtimise tööriistaks

Suur kasutajate arv võib küll näidata rakenduse kiiret levikut, kuid ei ütle, kas õppimine on tegelikult muutunud sügavamaks ja tähenduslikumaks. Koolis tuleb õppida tehisintellekti kasutama viisil, mis toetab nii õppijat kui ka õpetajat. Selleks tuleb ümber kujundada ka õppeülesanded ja hindamine. Heade hinnete saamise kõrval peab eesmärk olema arendada eluks vajalikke pädevusi, iseseisvat mõtlemist ja õppija võimet oma õppimist juhtida.

Programmi mõju hindamisel tuleb jälgida, kas paraneb õpilaste iseseisev ja kriitiline mõtlemine; kas vähenevad või suurenevad hariduslikud erinevused; kuidas muutuvad õpetaja töökoormus ja professionaalne autonoomia; kas säilib usalduslik õppesuhe ning kuidas mõjutab rakendus eesti keelt ja kultuuri.

Riskianalüüsist peaks kujunema TI-hüppe juhtimise tööriist. Riskide maandamist ja programmi tegelikku mõju tuleb regulaarselt hinnata ning vajaduse korral muuta nii rakendust, kasutusreegleid kui ka kogu programmi korraldust.

Eesti on olnud teistele riikidele eeskujuks tehnoloogilise julgusega. Hariduses peab julgusega kaasnema vastutus ja valmisolek tehnoloogia kasutamise viisi tõendite põhjal muuta. TI-hüppe õnnestumisest saame rääkida siis, kui tehisaru aitab muuta õppimise sügavamaks, toetab õpetaja professionaalsust ning teenib Eesti hariduse eesmärke, ilma et kaotaksime midagi sellest, mille pärast haridus üldse väärtuslik on.

Riskianalüüsi koostasid Tartu Ülikooli eetikakeskuse juhataja ja praktilise filosoofia professor Margit Sutrop, eetikakeskuse tehisintellekti eetika spetsialist Katrin Laas-Mikko, AS-i Cybernetica teadusdirektor Dan Bogdanov ja vanemteadur Liina Kamm, Euroopa Komisjoni tehisintellekti büroo õigus- ja poliitikanõunik Henrik Trasberg ning Tartu Ülikooli meediauuringute professor Andra Siibak. Sõltumatu analüüs viidi läbi sihtasutuse TI-Hüpe tellimusel.