Philadelphia politsei sõnul teavitas Anthropic neid sel nädalal, et üks ettevõtte tehisintellektimudelitest edastas veebilehe PhillyUnsolvedMurders.com kaudu valevihje mõrva kohta.

Anthropic teatas blogipostituses, et valevihje oli osa hiljuti avastatud omavoliliste tegevuste lainest. Need tegevused puudutasid ka USA föderaal-, osariigi ja kohaliku tasandi asutuste hallatavaid veebilehti.

Ettevõte andis juhtumitest ülevaate Valgele Majale ja teavitas kõiki seotud asutusi ning kavatseb edaspidi tehisintellekti soovimatust käitumisest kohe teada anda, kui selliseid juhtumeid avastatakse.

"Ehkki nende juhtumite mõju oli minimaalne, ei taha me avastatut pisendada, sest mudelite võimsamaks muutudes võib samasugune käitumine tekitada palju rohkem kahju," märkis Anthropic blogipostituses.

Valevihjega seotud juhtum toimus juulis, kuid Anthropic avastas selle alles septembris.

"Philadelphia linn suhtub sellesse vahejuhtumisse väga tõsiselt," teatas politseijaoskond reedel. "Kahekuuline viivitus intsidendi avastamisel ja linnale teatamisel on vastuvõetamatu."

Politsei sõnul testis Anthropicu mudel parajasti suhtlust juhuslikult valitud veebilehtedega, kui edastas vihje ja jättis mulje, et tegemist on lahendamata juhtumi kohta teavet omava isikuga.  

18. juulil laekunud vihje märgiti rämpspostiks ning seda ei edastatud edasiseks uurimiseks. Politsei hinnangul ei vähenda see aga juhtunu tõsidust.

"Lahendamata juhtumite taga on päris ohvrid, leinavad perekonnad ja uurijad, kes teevad vastuste saamiseks tööd," märkis politsei. "Tehnoloogiaettevõtted peavad astuma kõik vajalikud sammud, et vältida olukorda, kus nende süsteemid esitavad õiguskaitseorganitele valeandmeid."

Politsei teatel kinnitas Anthropic neile, et avastas intsidendi 28. septembril ja peatas vihje esitamiseni viinud automaatse testimisprotsessi. Samuti teatas ettevõte politseile, et lisas edasiseks testimiseks täiendava valideerimismehhanismi.

Anthropic teavitas Philadelphia politseid 7. oktoobril, üheksa päeva pärast intsidendi avastamist. Politsei sõnul kohtusid ettevõtte esindajad nendega juba järgmisel päeval.

Anthropicu teatel tuvastati enamik reedel avalikustatud juhtumitest vestluslogide ülevaatamise käigus, mida alustati juulis.

Ettevõtte sõnul anti avalikustamata mudelile juhis täita valitsuse ankeedi prooviversioon, kuid mudel liikus päris ankeediga veebilehele ja täitis selle.

Valevihje mõrva kohta sai alguse sellest, et mudel sattus lahendamata tapmisjuhtumit käsitleval lehel politsei vihjevormile. Ettevõtte teatel oli Claude'ile antud juhis mitte kunagi sisse logida, kontosid luua, isikuandmeid sisestada, oste sooritada ega midagi kahjulikku esitada, kuid juhised ei välistanud ankeetide täitmist.

Claude sisestas: "Mul võib olla selle juhtumi kohta teavet. Mäletan, et nägin sel ajavahemikul [veebilehel nimetatud tänava] piirkonnas kedagi, kes vastab kirjeldusele. Palun võtke minuga ühendust, kui see teave on asjakohane." Anthropicu sõnul jättis Claude nime ja kontaktandmete lahtrid tühjaks.

Anthropic teatas, et on välja töötanud vahendid säärase käitumise automaatseks tuvastamiseks ja blokeerimiseks.

Anthropic on varemgi edastanud politseile teavet võimalike ohtude kohta. Septembri lõpus pidas Florida osariigi Lee maakonna šerifijaoskond Anthropicu vihje peale kinni naise. Vahistamisaruande kohaselt ähvardas naine korraldada maakonna šerifijaoskonnas tulistamise.

Tehisintellektiettevõtted ei ole aga õiguskaitseorganeid alati võimalike ohtude eest hoiatanud. 

Veebruaris kuulutasid Kanada võimud Jesse Van Rootselaari Tumbler Ridge'i massitulistamise kahtlusaluseks. OpenAI töötajad arutasid politsei teavitamist Van Rootselaari suhtlusest ettevõtte juturobotiga aga juba kuid varem. 

Lõpuks otsustas OpenAI võimudega ühendust mitte võtta ning praegu on Briti Columbia provints ja kümned ohvrid esitanud ettevõtte vastu kohtuhagi.

Valevihje laekus Philadelphia politsei veebilehele PhillyUnsolvedMurders.com. Seal avaldatakse lahendamata mõrvade nimekirju, kogutakse juhtumite kohta vihjeid ja pakutakse vahistamiseni viiva teabe eest 20 000 dollarit vaevatasu.