Az Anthropic új rendszere bizonyítja az AI-válasz eredetét, de drága a használata
Az Anthropic FlashProve rendszere kriptográfiai bizonyítékokkal ellenőrzi, hogy melyik AI-modell adta a választ, anélkül, hogy annak súlyait felfedné. A prototípus azonban még nem éri meg a költséget a rutinszerű API-forgalomhoz.
Az AI-fejlesztők számára nehézkes lehet ellenőrizni, hogy az általuk használt modell valóban az, amiért fizetnek. Egy szolgáltató átirányíthatja a kéréseket egy olcsóbb modellhez, vagy egy támadó is manipulálhatja a válaszokat, a vásárlók észrevétlenül. Az Anthropic most ezen szeretne változtatni a FlashProve nevű, nyílt forráskódú kriptográfiai rendszerével.
A kedden bejelentett kutatás segíthet a fejlesztőknek harmadik fél AI-szolgáltatásainak ellenőrzésében és a kompromittált rendszerek felderítésében. A FlashProve azonban egyelőre kutatási prototípus, és a bizonyítékok generálásának költsége miatt nem praktikus a rutinszerű API-forgalomhoz — közölte a The New Stack.
Hogyan bizonyít a FlashProve?
A FlashProve zkSNARK-okat használ annak igazolására, hogy egy válasz egy adott modell súlykészletéből származik, anélkül, hogy ezeket a súlyokat felfedné. A rendszer a Meta Llama 4 Maverick, egy 400 milliárd paraméteres mixture-of-experts modelljén lett tesztelve. Az Anthropic benchmarkjai szerint a FlashProve körülbelül 110 prompt tokent dolgozott fel másodpercenként egy Nvidia H100 GPU-n, miközben a bizonyítékok generálása körülbelül 21 másodpercet vett igénybe egyetlen CPU-szálon. Az egyes bizonyítékok mérete nagyjából 19 MB volt.
A bizonyítás ára
A bizonyítékok generálása jóval költségesebb, mint az ellenőrzése. A FlashProve 70-95-ször több GPU-időt igényel, mint a standard inferencia, és a válaszok teljesítése után kötegelve generálja a bizonyítékokat, nem pedig tokenenként. Bár a rendszer jelentősen gyorsabb, mint korábbi nyílt forráskódú rendszerek, mint például a VerInf, amelynek 1000 tokenre vonatkozó bizonyíték generálása 14,3 órát vett igénybe, a jelenlegi prototípus még mindig nem alkalmas a rutinszerű API-forgalomra.
Az Anthropic szerint a Lean nevű eszközzel formálisan is igazolták a protokoll matematikai tulajdonságait, beleértve azt is, hogy elfogadja az érvényes bizonyítékokat, elutasítja a hamisítottakat, és nem fedi fel a modell súlyait a válaszokon túl. A C++ implementáció és a GPU prover tesztelve lett a protokollal, de nem rendelkeznek ugyanazokkal a matematikai garanciákkal, mint a Lean verzió.
A FlashProve jelenleg 1024 tokenes kontextusra korlátozódik, és egész szám alapú inferenciát, valamint greedy dekódolást használ. Nincs információ arról, hogy mikor, vagy egyáltalán bekerül-e a FlashProve a Claude API-ba, mivel az Anthropic kutatási cikknek tekinti, és nem fogad be hozzájárulásokat.