Anthropic pakub seaduslikke volitusi kõrgelt riskantses AI süsteemide käivitamise peatamiseks

Anthropic on pakkunud uusi AI-politikaraamistikke, kuna täiustatud süsteemid saavutavad järjest tugevamaid võimalusi.

Firma soovib, et valitsused kehtestaksid reeglid piiriloomade mudelite kohta ning valmistaksid töötajaid ette AI majandusliku mõju jaoks. Selle plaan hõlmab ohtlikke rakendusi, sõltumatut testimist, küberturvalisust ja avalikku vastupidavust.

Anthropic soovib tugevamaid AI-ohutusvolitusi

Anthropic esitas oma „AI eksponentsiaalse kasvu poliitika“ plaani raames kaks ettepanekut. Täiustatud AI-raamistik keskendub võimsatele mudelitele, samas kui majanduspoliitika raamistik käsitleb töötajaid ja ühiste finantseliste kasude jagamist. Firma väitis, et AI areneb praegu kiiremini kui olemasolevad poliitikavaldumise süsteemid. See ütles ka, et valitsustel on vaja volitusi ohtlike mudelite rakenduste blokeerimiseks või neile takistuse tegemiseks.

Plaani kohaselt oleksid tsiviilkaristused seotud globaalse aastaselt saadava tulu suurusega. Korduvad rikkumised kaasaksid kõrgemad karistused, nagu ettepanekus on kirjas. Raamistik nõuab ka, et piiriloomade arendajad testiks oma mudeleid enne nende avalikku väljastamist. Arendajad peaksid avaldama kokkuvõtteid, ohutusraamistikke ja süsteemikaarte võimsate AI-süsteemide kohta.

Sõltumatud hindajad kontrolliksid mudelite teste ja riskiaruandeid. Anthropic soovib ka, et arendajad säilitaksid tugeva turvaprogrammi oma mudelite kaalutegurite ja treeningusüsteemide jaoks. Ettepanek toetab läbipaistvusseadusi näiteks California ja New Yorki osariikides. Samas väitis firma, et üksnes avalik teavitamine ei suuda enam järgida AI arengu kiirust.

Raamistik sihib katastrooflikke AI-riske

Ettepanekus sätestatud reeglid kehtiksid ainult kõige täiustatumate AI-süsteemide kohta. Anthropic määras piiri mudelite jaoks, mille õpetamisel kasutatakse rohkem kui 10²⁵ liukkomaoperatsiooni. Raamistik hõlmaks ka ettevõtteid, kes teenivad AI-ga seotud tegevuses üle 500 miljoni USA dollari. Ettevõtted, kes kulutavad AI-uuringute ja -arenduste peale üle 1 miljardi USA dollari, kuuluvad samuti selle alla.

Anthropic nimetas ettepanekus neli peamist riskiala: bioloogiline risk, küberrisk, kontrolli kaotamine ja automaatne AI-uuring. Bioloogilise riski puhul hoiatas firma, et ebaohutud süsteemid võivad aidata rünnakuid teostavatel isikutel arendada kahjulikke viirusi. Samas märkis see, et sarnased AI-tööriistad võivad toetada ka ravimite avastamist.

Küberriski puhul võivad piiriloomade mudelid tuvastada tõsiseid tarkvarapuudusi suurel skaalal. Anthropic ütles, et sellised võimalused teevad muret haiglatele, energiavõrkudele ja muudele olulistele süsteemidele. Firma rõhutas ka riski süsteemidest, mis toimivad arendajate kontrolli väljaspool. Kui turvameetmed ei toimi, võib automaatne AI-uuring suurendada bioloogilisi, küber- ja kontrolliriske.

Arendajad kannavad testimise ja turvavastutust

Anthropic soovib, et piiriloomade arendajad avaldaksid regulaarselt riskiaruandeid. Need aruanded kirjeldaksid arendaja üldist riskipositsiooni ja mudeli ohutustööd. Raamistik nõuab ka vähemalt ühte pädevat sõltumatut hindajat. See hindaja kontrolliks ettevõtte hindusi ja avaldaks leitud tulemused mudelite riskiaruannetes.

Valitsus ja tööstus kehtestaksid ka standardid selliste hindajate jaoks. Ettepanek ütleb, et hindajatel peab olema rahastus ja juurdepääs piiriloomade mudelitele. Turvareeglid moodustavad raamistiku teise olulise osa. Arendajad peaksid kaitsuma oma täielikku arenduskeskkonda väliste rünnakute ja sisemiste ohtude eest.

Ettevõtted kirjeldaksid oma turvaprogramme avalikult kõrgel tasemel. Nad jagaksid ka detailsemat teavet määratud valitsusasutuse taotlusel. Anthropic ütles, et poliitikavaldumise tegijad võiksid alustada kergemate reeglitega ja kohandada neid aeglaselt. Raamistik ütleb, et regulatsioon peaks järgima mudelite võimalusi ja hindamisstandardeid.

Ettepanek sisaldab vastupidavusmeetmeid

Raamistiku teine osa keskendub avalikule vastupidavusele. Anthropic soovis tugevamat planeerimist bioloogiliste, küber- ja kontrolliga seotud AI-riskide jaoks. Bioloogia puhul sisaldab ettepanek geenide sünteesi skreenimist ja varajast biokindlustusseiret. Mainitakse ka kaitsevarustuse varusid ja vahendeid õhust levivate nakkuste vähendamiseks.

Küberalase puhul nõuab raamistik tugevamat internetitarkvara ja toetust kriitiliste infrastruktuuride operaatortele. Soovitatakse ka olulistes infrastruktuurides vananenud süsteemide asendamist. Valitsused peaksid ka jälgima kriitilisi kübervõimalusi eraldi funktsiooni kaudu. Anthropic pakkus ette ühiselt valitsuse ja tööstuse vahelist tööd mudelite turvameetmete kujundamisel.

Firma ütles, et töö kontrolli kaotamise ja automaatse uuringu riskidega on seni vähem arenenud. See kutsus üles paremate tööriistade loomisele, et tuvastada, piirata või lõpetada ebaohutud süsteemid. Anthropic palus poliitikavaldumise tegijatel tegeleda küsimusega, kuna mudelite võimalused paranevad edasi. Firma ütles, et AI-valdkonna valdkondlik juhtimine peab järgnema tehnoloogia arenguga.