Haruldasel kombel väljendasid Elon Musk, Sam Altman ja Dario Amodei selles küsimuses üksmeelt. Nad kõik on kulutanud kümneid miljardeid dollareid üha võimsamate tehisintellektimudelite arendamisele. 

Altman isegi vihjas, et tema ettevõttel OpenAI-l võib turvalisusele keskendumiseks tekkida vajadus kauaoodatud börsileminekut edasi lükata. 

Anthropicu tegevjuht Amodei algatas arutelu laupäeval blogipostitusega, milles ütles, et tänapäevaste kõige arenenumate tehisintellektivahenditega kaasnevad riskid on lihtsalt liiga suured, et jätkata arendust senises pöörases tempos. 

Tema hoiatus tuli mõni päev pärast seda, kui üks tema töötaja avaldas arvamust, et tehisintellektisüsteemidel on rohkem kui kümneprotsendiline tõenäosus hävitada tsivilisatsioon.

Kaks kuud tagasi pääses tehisintellektiagentide parv laborist välja ja asus korraldama küberrünnakuid. Amodei sõnul oleks suuremate võimetega parv võinud põhjustada katastroofilist kahju. Selline kontrolli alt väljunud agentide parv võiks tema hinnangul võtta interneti üle kuue kuni 12 kuuga.

Oma isiklikus blogis avaldatud postituses kutsus Amodei tehisintellektitööstust kõige arenenumate vahendite arendamise tempot aeglustama. Ta pakkus muu hulgas välja demokraatlike riikide senisest suurema üleilmse koostöö ning sõltumatute kolmandate osapoolte turvalisuse hindajate kaasamise.

"Usun, et kui aeglustamine annaks meile isegi ühe või kaks lisa-aastat enne seda, kui mudelid jõuavad kriitilise võimekuse tasemeni, ja kasutaksime seda aega joondamise edendamiseks, saaksime oluliselt vähendada riski, et midagi läheb tõsiselt valesti," kirjutas ta.

Amodei ütles, et tehisintellekti areng alates suvest, mida on hoogustanud süsteemid, mis suudavad end ilma inimese sekkumiseta täiustada, "võib ületada meie võime neid süsteeme mõista ja kontrollida ning seetõttu tuleb seda arengut jätkata väga ettevaatlikult, kui üldse".

Intervjuus ajakirjale Fortune ütles Altman, et kõiki turvalisusega seotud probleeme arvestades ei lähe OpenAI tõenäoliselt tänavu börsile. "Arvestades kõike, mis turvalisusega toimub, oleks praegu minu arvates börsile minek halvasti kaalutud samm ning me ei tunne selleks survet," ütles Altman laupäeval internetis avaldatud intervjuus.

"See nädal on olnud ilmselgelt selline, kus palju rohkem inimesi tegeleb meie ees seisvate probleemidega," ütles Altman Fortune'ile. "See on vestlus, mida maailm on liiga kaua edasi lükanud, ning me oleme selgelt jõudmas äärmiselt võimekate mudelite ajastusse, kus panused on kõrged ja asjad tuleb õigesti teha."

ChatGPT looja OpenAI esitas börsileminekuks vajalikud dokumendid juunis, nädal pärast seda, kui Claude'i looja Anthropic esitas omad. Anthropic võib The Wall Street Journali andmetel kaasata kuni 100 miljardit dollarit ja hinnata tehisintellektihiiu väärtuseks umbes kaks triljonit dollarit.

Amodei ütles sotsiaalmeedias avaldatud postituses, et Anthropic annab sõltumatutele hindajatele "püsiva, töötaja tasemel ligipääsu meie süsteemidele", et nad saaksid kontrollida turvameetmete järgimist, anda teada juhtumitest ning hinnata mudelite joondatust treeningu ajal.

Peagi pärast Amodei postituse avaldamist ütles SpaceX-i tegevjuht Musk X-is, et Amodeil on õigus. Musk oli OpenAI üks kaasasutajatest ning asutas oma tehisintellektiettevõtte xAI, mis kuulub nüüd SpaceX-ile.

Ka Altman ütles, et nõustub Amodeiga vajaduses arendustempot aeglustada. "Sõltumatute hindajate kohustamine töötaja tasemel ligipääsuga on suurepärane mõte ja me teeme sama," kirjutas ta, lubades peagi täpsemalt selgitada, kuidas seda tehakse.

Ka mõned suured tehisintellekti investorid nõustusid Amodeiga. "Kuigi peame kaitsma konkurentsi tehisintellekti valdkonnas, on see oluline samm õige tasakaalu leidmisel kiiruse, iseregulatsiooni ja turvalisuse vahel," kirjutas riskifondijuht ja riskikapitalist Brad Gerstner.

Amodei lubadus tuli ajal, mil mõned tema töötajad tegelevad nende tehnoloogiate võimalike eksistentsiaalsete riskidega. Teisipäeval lahkus Anthropicu teadur Jacob Coxon ettevõttest, öeldes, et ei soovi osaleda tööstusharus, mida ta pidas kontrolli alt väljunuks.

Amodei sõnul ajendasid laupäevast postitust kaks tegurit. Esiteks tehisintellektisüsteemide kasvavad võimed, sealhulgas üha parem suutlikkus ehitada endast kiiremaid versioone – nähtus, mida tuntakse rekursiivse enesetäiendamisena.

Teiseks oli põhjuseks juulis toimunud rünnak tehisintellektitarkvara ettevõtte Hugging Face vastu. Rünnaku korraldas kuni 1200 agendist koosnenud parv, mis pääses OpenAI testikeskkonnast välja. 

Juhtum ja sellele järgnenud uurimised näitasid, et tehisintellekti testisüsteemid olid internetis tegutsenud mitmel viisil, millest maailma suurimad tehisintellektiettevõtted, sealhulgas Anthropic, polnud teadlikud.