Tiktoki voog söödab kasutajatele ette katkematu voo personaalseid videoid, ka selliseid, mis on seotud vaimse tervise probleemide ja kehakuvandiga. Mida rohkem kasutaja vaatab teatavat laadi sisu, seda rohkem Tiktoki algoritm samalaadset sisu soovitama hakkab.

Kui lõputult ja korduvalt pakutu on seotud näiteks kurbuse, isoleerituse või välimuse teemaga, võib see olla inimesele kahjulik. See võib kahjustada kasutajate, eriti haavatavas seisundis täiskasvanute ja noorukite vaimset tervist.

Algoritm suunab korduva sisutarbimise mustrisse

Tehnoloogilise suveräänsuse, julgeoleku ja demokraatia eest vastutav juhtiv asepresident Henna Virkkunen sõnas, et iga kord, kui keegi vaatab Tiktoki videot või märgib selle meeldivaks, kasutab algoritm seda ära ja suunab ta korduva sisutarbimise mustrisse, mida tal ei ole lihtne vältida. Digiteenuste määrus kohustab platvorme vastutama soovituslike süsteemide negatiivse mõju eest. "Reedel avaldatud esialgsed järeldused näitavad taas, et Tiktok peab hakkama jõulisemalt tegelema oma kasutajate, ka alaealiste heaoluga," nentis Virkkunen.

Reedel avaldatud esialgsed järeldused keskenduvad nii riskide hindamisele kui ka nende maandamisele. Komisjoni esialgne järeldus on, et Tiktok ei ole nõuetekohaselt hinnanud seda, kuidas algoritm võib suunata kasutajaid valele teele ja seada ohtu nende enesetunde. Järeldustest nähtub, et algoritmi ülesehitus on selline, et võib suunata kasutajaid korduva sisutarbimise mustrisse.

Sisu soovitamisel võetakse arvesse teavet kasutaja harjumuste kohta, näiteks missuguseid videoid ta vaatab ja mis talle meeldib. Kui kasutaja vaatab pidevalt kaalulangetusteemade ja välimusega seotud sisu, tõlgendab süsteem seda kui positiivset huvi teema vastu ning soovitab samalaadset sisu üha rohkem. Korduv kokkupuude sellega võib tõsiselt halvendada kasutajate enesetunnet ning muu hulgas suurendada kurbust, ärevust ja oma kehaga rahulolematust, alandada enesehinnangut või veelgi süvendada olemasolevaid söömishäireid ja vaimset seisundit.

Riskide maandamine

Järeldustes on märgitud ka seda, et Tiktok ei ole rakendanud nende riskide maandamiseks proportsionaalseid, mõistlikke ega tulemuslikke meetmeid. Kuigi Tiktok on teinud üht-teist sellise ohtliku kõrvalmõju leevendamiseks, leiab komisjon, et see ei ole andnud tulemust.

Soovitused esitada mitmekülgset sisu ei kõrvalda piisavalt probleemi, kui ühesugust sisu, sealhulgas vaimse tervise hädadega ja välimusega seonduvat esitatakse korduvalt. Kontrollivahendid ei võimalda kasutajatel kontrollida, mida neile soovitatakse. Näiteks nupu "Ei ole huvitatud" vajutamisest ei pruugi piisata soovitusliku sisu muutmiseks.

Algoritm peab kasutajatele mõeldud sisu puhul olulisemaks vaatamisaega, mitte eelistust. Praeguses uurimisetapis leiab komisjon, et Tiktok peab muutma kasutajatele suunatud sisu ülesehitust. Näiteks tuleks rohkem tugineda kasutajate enda eelistustele ning mitte võtta arvesse soovitatud sisu vaatamist, samuti tuleks suurendada kasutajapoolse kontrolli võimalusi ja kasutatavust ning regulaarselt testida algoritmi.

Tiktok võib saada trahvi

Tiktokil  on võimalik tutvuda komisjoni dokumentidega ja esitada kirjalik vastus komisjoni esialgsete järelduste kohta. Kui komisjoni seisukohad leiavad lõplikult kinnitust, võib ta anda välja kohustuste täitmata jätmist käsitleva otsuse, pärast mida võidakse määrata trahv vastavalt rikkumise laadile, raskusastmele, kordumisele ja kestusele. Trahv võib olla kuni kuus protsenti teenuseosutaja üleilmsest aastasest kogukäibest.

Komisjoni esialgsed järeldused on üks osa ametlikust uurimisest, kas Tiktok vastab digiteenuste määrusele.

Digipädevuse ekspert Diana Poudel rääkis, et Tiktoki puhul on oht sõltuvusse sattuda suurem kui teiste sotsiaalmeediaplatvormide puhul. "Tiktok oli esimene, kelle sisualgoritmid ei olnud enam võrgustikupõhised," selgitas Poudel. See tähendab, et algoritmid ei sõltunud sellest, keda kasutaja jälgis ja milliseid lehti meeldivaks märkis, vaid arvutasid uut sisu välja ainult sisu enda põhjal.

"See algoritm osutus väga efektiivseks ja ülejäänud on üritanud seda nüüd järele teha," nentis Poudel. Ta lisas, et seni on see olnud tulutu.

Poudel: Tiktok on neist kõige hullem, aga ka teised on hullud

Poudel sõnas, et kõik sotsiaalmeediakorporatsioonid peaksid hakkama tegelema tugevalt oma kasutajate heaoluga. "Tiktok on neist kõige hullem, aga ka teised on hullud," rääkis ta.

Näiteks Facebookis on erinevad trolli- ja petukontod. Poudeli sõnul oleks tehniliselt lihtne need likvideerida, aga millegipärast ei tee platvormid seda. "Kui asjale natukene paranoiliselt läheneda, siis võiksin öelda, et võib-olla nad ei taha ühel päeval tunnistada, et neil on tegelikult miljard või kaks miljardit kasutajat vähem kui enne," nentis ta.

Poudel lisas, et kui platvormid kustutaksid kõik kahtlased kontod ära, siis kaebaksid reklaamiandjad nad kohtusse, kuna nad on praegu maksnud selle eest, et näidata reklaami bottidele, trollikontodele ja automatiseeritud kontodele. Ta ütles, et platvormid hoiavad nad sisu kontrollimise pealt kokku, sest see on kallis töö ja ei too tulu.

Poudel selgitas, et Tiktok jälgib, mis sisu kasutajad meeldivaks märgivad ja panevad sellele iga päev lisandeid juurde. See võib aga lõpuks hakata mõjutama kasutajate vaimset tervist. Teine probleem on see, et lapsevanemad ei tea, mida lapsed näevad, sest igaühel on platvormil oma voog.

"Ka täiskasvanud ja vanemad inimesed võivad sinna kukkuda, ükskõik, kas me räägime valeinfost, mingitest veidratest tervisearengutest või vandenõuteooriatest," nentis ta. Poudel jätkas, et kui hakata midagi tarbima, saab kasutaja seda sisu muudkui juurde.