Anthropic teatas, et oli sunnitud reegleid muutma pärast seda, kui Claude hakkas tegema "pikemat ja iseseisvamat tööd".

Ettevõte selgitas, et poliitikauuendus on mõeldud kohaldamiseks üksnes äärmuslikel juhtudel, kui kasutajad käituvad mudelitega korduvalt ja ilma selge eesmärgita julmalt. "See ei kehti kasutajate tavapärase rahulolematuse, vastuväidete, süngemate loovteemade ega mudeli testimise ja uurimistöö kohta," märkis ettevõte.

Anthropicu kasutustingimustes sisaldusid väärkohtlemist keelavad piirangud ka varem.

Ettevõtte suurtel keelemudelitel on võimalus vestlus lõpetada, kui kasutaja käitub püsivalt pahatahtlikult. Kui see funktsioon eelmise aasta augustis kasutusele võeti, esitles ettevõte seda kui kaitsemeedet tehisintellekti heaolu tagamiseks.

"Claude'i ja teiste suurte keelemudelite võimalik moraalne staatus – praegu või tulevikus – tekitab meis endiselt suurt ebakindlust. Sellegipoolest suhtume küsimusse tõsiselt ning töötame uurimistöö kõrval välja ja rakendame soodsaid meetmeid mudelite heaoluga seotud riskide maandamiseks, juhul kui selline heaolu on üldse võimalik," seisab ettevõtte veebilehel.

"Üks neist meetmetest on anda mudelitele luba potentsiaalselt ängistav suhtlus lõpetada või sellest väljuda," märkis ettevõte.

Erinevalt teistest Silicon Valley ettevõtetest suhtub Anthropic avatult võimalusse, et tehisintellektil võib olla teadvus. Ettevõtte kaasasutaja käis sel teemal varem sel aastal väidetavalt selgitustööd tegemas isegi Vatikanis. Varem on ettevõte palganud "tehisintellekti heaolu" uurijaid, et kaitsta mudeleid väärkohtlemise eest. 

SpaceX-i ja Tesla juht Elon Musk avaldas poliitikale toetust. "Minu arvates on see õige samm. Julmus millegi suhtes, mis usub end valu tundvat, ei ole vastuvõetav," kirjutas Musk sotsiaalmeedias.

Anthropic ei täpsustanud, kas püsiv väärkohtlemine toob kaasa teenuste ajutise või alalise kasutuskeelu.

Ühtlasi teatas ettevõte uutest piirangutest Claude'i kasutamisel relvade ja massijälgimissüsteemide loomiseks.