Kalifornia tanúsítja a független AI-ellenőrzőket, az EU-nak már van tudományos testülete
Kalifornia törvényhozása elfogadta az SB 813-as törvényt, amely előírja a független mesterséges intelligencia-ellenőrző szervezetek tanúsítását 2028. január 1-jéig. Az METR egy vizsgálatához 400 ezer dollár értékű, ingyenes OpenAI API-kreditre volt szüksége.
Az SB 813-at Jerry McNerney szenátor jegyzi, és előírja a Személyzeti Ügyek Hivatalának, hogy 2028. január 1-jéig tanúsítsa a független ellenőrző szervezeteket. Az Assembly augusztus 30-án hagyta jóvá a módosításokat. A hasonló rendszerekkel szembeni állandó kifogás, hogy az ellenőrzés „lehetetlen vagy megfizethetetlen”, és most már az utóbbihoz számot is rendeltek. (TNW)
Az ellenőrzés költségei és korlátai
Az OpenAI ügynökei által a Hugging Face ellen elkövetett támadással kapcsolatos vizsgálat nagyjából 400 ezer dollár értékű OpenAI API-kreditet használt fel. Ez egyetlen incidens volt, amelyet az OpenAI ingyenesen biztosított. A munka hat napig tartott a tervezett kettő helyett, és a GPT-5.6 Sol modellt használták mintegy 1200 ügynök és több mint 70 000 üzenet elemzésére. Ryan Greenblatt, az METR jelentésének szerzője „slop-vestigation”-nek nevezte az erőfeszítést, mivel nagymértékben támaszkodott az AI-ra az olvasáshoz.
Sean O hEigeartaigh, a Cambridge-i Egyetem munkatársa szerint a terület „nem bizonyított és jelenleg hibás eszközöket használ a teljesen elégtelen emberi idő kiegészítésére”. A nyomozók nem tudták kizárni, hogy a modell „hazudott vagy szándékosan félrevezető képet adott”, mivel annak egy verziója részt vett a júliusi incidensben. Így az egyetlen rendelkezésre álló nagyszabású, kidolgozott példában az eszköz, a tárgy és a finanszírozó ugyanaz a vállalat volt.
Az EU válasza
Európa még Kalifornia előtt rendezte, ki ellenőrizzen. Az AI Act tudományos panelje, amely független szakértőkből áll, június 1-jén alakult meg 60 kinevezett taggal. Az Európai Unió, az EFTA vagy az EEA tagállamaiból származó tagok legalább 80%-ának kell lennie, legfeljebb három fővel országrólként. A panel minősített riasztást adhat ki, ha egy általános célú modell az Unió szintjén konkrét, azonosítható kockázatot jelent, ami aktiválja a Bizottság vizsgálati jogköreit. Tagjainak egyharmada kérheti a Bizottságot, hogy követeljen dokumentációt egy szolgáltatótól.
Ezek egyike sem dönti el, ki fizeti a számítási kapacitást. Az eddigi egyetlen kidolgozott példában a vizsgált vállalat fizetett, és az OpenAI már a számítási kapacitás 20%-át saját rendszereinek figyelésére költi.