Az Anthropic modelleket vizsgálhatnak külső auditorok, „alkalmazotti szintű” hozzáféréssel
Hat METR-alkalmazott kapott „alkalmazotti szintű” hozzáférést az Anthropic irodájában, hogy függetlenül értékelhessék a cég AI-modelljeinek kockázatait. A lépés a szélesebb iparági törekvés része a harmadik fél általi felügyelet erősítésére.
Az Anthropic „alkalmazotti szintű” hozzáférést biztosít külső értékelőknek modelljei kockázatainak felméréséhez, teljesítve ezzel azt a kötelezettségvállalását, hogy növeli a biztonsági intézkedéseket, miközben aggodalmak merülnek fel a technológia katasztrofális irányíthatatlansága miatt. Az METR nonprofit szervezet, amely olyan vezető laborokkal dolgozott együtt, mint az OpenAI, az Anthropic, a Google és a Meta, most egy csapatot telepített a Claude-gyártó irodájába, hozzáféréssel annak hardvereihez és belső rendszereihez. (Ars Technica)
A harmadik fél általi értékelők nagyobb szerepvállalása azon konkrét lépések közé tartozik, amelyeket a laborok a növekvő aggodalmakra válaszul javasoltak a veszélyesebb AI-rendszerek gazdaságra, kiberbiztonságra és általában az emberiségre jelentett potenciális veszélyeivel kapcsolatban. Dario Amodei, az Anthropic vezérigazgatója szeptemberben ritka egységet ért el az őtrivális Sam Altman és Elon Musk mellett, amikor az OpenAI és a SpaceX vezetői is támogatták az általa javasolt külső auditorok beépítését a vezető laborokba. A csütörtöki bejelentés az ígéretek megvalósításának első lépése.
„Ahogy a modellek egyre erősebbé váltak, erősebb biztonsági intézkedésekre és kihívást jelentőbb kockázatértékelésre volt szükségük” — közölte az Anthropic csütörtökön. „Nyilvánosan elszámoltathatóak akarunk lenni a döntéseinkért. De nem oszthatunk meg minden, a biztonsági munkánkkal kapcsolatos információt nyilvánosan.” A kritikusok szerint az ilyen megállapodások összeférhetetlenséghez vezethetnek, és nagyobb kormányzati szabályozásra van szükség. Az Anthropic szerint a nyilvános információ megosztása rosszindulatú szereplőknek vagy versenytársaknak kedvezhet.
Bankfelügyelethez hasonló mechanizmus
Az Anthropic azt állítja, hogy az értékelők működése hasonló lesz a bankfelügyelethez, ahol a szabályozók kijelölt vizsgálókat helyeznek el a legnagyobb bankokon belül. „Ha egy bank kockázatvállalása veszélyeztethetné a közvéleményt, harmadik felek megpróbálják ezt előre látni” — mondta a cég. Az Anthropicot az is nyomás alatt tartja, hogy befektetőit megnyugtassa, a biztonsági kérdések nem árnyékolják be az idei, több mint 2 billió dollárosra becsült tőzsdei bevezetését. A cég a heti befektetői prezentációk nagy részét biztonsági gyakorlatainak ismertetésére szentelte.
Hat auditor, korlátozott publikációs jog
Az METR korábban már vizsgálta a Hugging Face elleni hackertámadást, áttekintve több ezer naplófájlt és céges laptopokat kapva. Az Anthropic most hat METR-alkalmazottat vett fel, céges hardvert, irodaterületet és „olyan belső eszközökhöz és rendszerekhez biztosít hozzáférést, amelyek nagyjából egyenértékűek azzal, amit saját kockázatértékelő csapataink használnak”. A labor arra biztatta munkatársait, hogy osszanak meg információkat az értékelőkkel, mintha egy kollégával dolgoznának a kockázatkezelésen.
Az Anthropic nem fizet az METR-nek ezért az elrendezésért; a kutatócsoport nem fogad el adományokat AI-cégektől vagy azok munkatársaitól. A szervezet magánszemélyek, alapítványok és kormányzati szervek, például az Egyesült Királyság AI Biztonsági Intézete adományaiból részesül. Az értékelők publikálhatják elemzésüket, és az Anthropic nem vétózhatja meg a közzétételt. Azonban megkövetelhetik bizonyos kategóriákba tartozó információk — például ügyféladatok, ügyvédi titok hatálya alá tartozó részletek vagy modellarchitektúrákra vonatkozó információk — kivonását.
Az Anthropic továbbra is együttműködik az Accenture-rel, amelyet a múlt hónapban neveztek meg biztonsági tesztelési partnerként, és mindkettő legalább 1 milliárd dollárt kötelezett el új biztonsági intézkedések létrehozására.
Egy másik harmadik fél tesztelő a SecureBio, amely vegyi és biológiai fegyverek kockázatát vizsgálja a cég számára. „Önkéntesen építünk be értékelőket, és úgy gondoljuk, minden határ menti AI-cégnek ugyanezt kellene tennie” — mondta az Anthropic. Az METR hozzátette: „Készen állunk arra, hogy minden határ menti AI-fejlesztővel együtt dolgozzunk, hogy jobb bizonyítékokat hozzunk a nyilvánosság elé.”