Süvavõltsingud on masinõppe ja tehisintellekti abil loodud sünteetilised pildid, heli- või videoklipid, milles ühe isiku nägu, keha või hääl asendatakse teise isiku näo, keha või häälega. Kujutiste võltsimine ei ole midagi uut, kuid süvavõltsingute tehnoloogia laialdane kättesaadavus ning levik võivad pikemas perspektiivis viia meie kollektiivsete episteemiliste ehk teadmistega seotud sotsiaalsete normide muutumiseni.

Süvavõltsingute aluseks olevate tehnoloogiate väljatöötamisega on arvutinägemise valdkonnas tegeletud 1990. aastatest alates. Näiteks 1997. aastal loodud projekt muutis masinõppe abil videolõiku selliselt, et kõneleja suu liikus videost erineval heliribal olevate sõnade järgi.

Midagi sarnast tehti Barack Obamat kujutava videolõiguga 2017. aastal. Aasta varem avalikustati Face2Face rakendus, mis muudab inimese näost tehtud videosalvestust nii, et see järgib reaalajas teise inimese miimikat. 2018. aastaks jõuti terve keha liikumise manipuleerimiseni.

Viimastel aastatel on eraettevõtted hakanud turule tooma süvavõltsingute rakendusi. Näiteks mobiilirakendus Zao laseb kasutajal enda näo paigutada filmidest ja televisioonist tuttavatesse stseenidesse ning DataGrid on loonud tervet keha kujutavaid süvavõtlsinguid.

2019. aastast pärinevad esimesed teated inimkõne süvavõltsingutest, mida on vähemalt ühel juhul ka edukalt pettuses kasutatud. Meelelahutustööstuses on süvavõltsingute tehnoloogiat kasutatud näiteks surnud näitlejate kinolinale toomiseks või nende digitaalseks noorendamiseks.

Lihtsustades võib öelda, et hetkel kasutatakse süvavõltsingute loomisel valdavalt kahte tehnoloogiat. Generatiivsed võistlusvõrgud on kahest tehisnärvivõrgust – genereerivast võrgust ja detekteerivast võrgust – koosnevad tehisnärvivõrgud, milles genereeriv võrk loob pilte ja detekteeriv võrk püüab eristada esimese poolt loodud pilte tegelikest.

Genereeriv võrk õpib üha paremini detekteerivat võrku petma ning viimane õpib üha paremini esimese loomingut tegelikest piltidest eristama. Autoenkooderid on tehisnärvivõrgud, mis püüavad peale sisendiks antud pildi analüüsimist sellele võimalikult sarnast pilti luua. Mõlemad tehnoloogiad on tavakasutajatele kättesaadavad ja nende rakendamine muutub ajapikku üha lihtsamaks.

Süvavõltsingute kõige kurikuulsamaks rakenduseks on (tuntud) naistest võltspornograafia loomine. Ühe raporti andmetel oli 2018. aastaks internetis üle 14 000 süvavõltsitud video, millest 96 protsenti olid pornograafilised ja neist omakorda sada protsenti kujutasid naisi, kellest 99 protsenti olid seotud meelelahutustööstusega.

Meediakajastuse mõjul on Google, Discord, Twitter ja mitmed teised hakanud süvavõltsinguid oma platvormidelt eemaldama. Seadusandjad on samuti probleemiga tegelema asunud, kuid seni astutud sammud ei pruugi olla piisavad naiste õiguste kaitsmiseks.

Ühe hiljuti ilmunud uuringu autorid pidasid süvavõltsinguid järgmise 15 aasta suurimaks tehisintellektiga seotud riskiks. Üheks võimalikuks stsenaariumiks on süvavõltsingute abil poliitilise olukorra destabiliseerimine.

Kui hiljuti Apollo 11 missiooni ebaõnnestumise puhuks kirjutatud kõnet esitava Richard Nixoni alternatiivajalooline video oli pigem akadeemiline harjutus, siis käesoleva aasta kevadel kasutati India valimiskampaanias täiesti teadlikult süvavõltsingut ning Belgias ringles süvavõltsitud video riigi peaministrist. Mõningatel andmetel on poliitilise sisuga ja poliitikuid ründavate süvavõltsingute arv viimase aastaga kasvanud.

Oluline osa meie teadmistest põhineb teiste inimeste tunnistusel. Sellise teadmise usaldusväärsus sõltub osaliselt allika usaldusväärsusest. Fotograafia, filmi ja teiste salvestustehnoloogiate leiutamine ning levik on muutnud meie episteemilisi norme. Tunnistusi parandatakse ja reguleeritakse salvestatud tõendite abil ja mitte vastupidi.

Näiteks kuriteo tunnistaja ütlusi kontrollitakse võimalusel turvakaamera lindistuse põhjal ja vastuolu ilmnemisel usaldatakse enamasti kaamerat.

Regina Rini arvates võib süvavõltsingute poolt külvatud usaldamatus viia meie episteemiliste normide muutumiseni, mille tagajärjel kaotavad videod, pildid ja teised salvestised oma pilditöötluse mõjul niigi kahanema hakanud usaldusväärtuse täielikult. Tänu ühest teadmiste allikast ilmajäämisele oleks sellises olukorras varasemast lihtsam ka tõeseid salvestisi kahtluse alla seada.

Süvavõltsingute leviku piiramiseks on välja töötatud mitmeid tehnoloogilisi vahendeid – näiteks Microsoft on loonud videode autentimise tööriista ning samal eesmärgil on kasutatud ka blokiahela tehnoloogiat – aga see ei pruugi olla piisav, sest võistlus süvavõltsinguid loovate ja neid tuvastavate algoritmide vahel võib endaga kaasa tuua esimeste täiustumise.

Ainult inimestele ei saa samuti lootma jääda, sest ühes hiljutises uurimuses selgus, et tänu oma loomulikele eelarvamustele levitavad inimesed Twitteris robotitest – automaatsete postituste loomiseks loodud programmidest – rohkem libauudiseid.

Tõenäoliselt kõige lootustandvam lahendus süvavõltsingute probleemile hõlmaks lisaks tehnoloogilistele lahendustele ka seadusandlikke vahendeid ja kriitilise meediakirjaoskuse üleüldist arendamist.

Kõiki Vikerraadio päevakommentaare on võimalik kuulata Vikerraadio päevakommentaaride lehelt.

ERR.ee võtab arvamusartikleid ja lugejakirju vastu aadressil [email protected]. Õigus otsustada artikli või lugejakirja avaldamise üle on toimetusel. Artikli kommentaariumist eemaldatakse autori isikut ründavad ja/või teemavälised, ropud, libainfot sisaldavad jmt kommentaarid.