Független értékelők kerültek a figyelem középpontjába az AI-iparágban

A multitrillió dolláros AI-iparágban a kis, független értékelő szervezetek, mint az METR és a Transluce, a figyelem középpontjába kerültek. Miközben a szövetségi kormány ellenzi a szabályozási felügyeletet, ezek a nonprofitok kaptak feladatot a modellek monitorozására és értékelésére. A CNBC szerint kérdéses, hogy ki finanszírozza ezeket a szervezeteket, és hogyan biztosítható a hosszú távú működésük.

Az OpenAI legutóbbi modelljének kiadását biztonsági aggályok miatt visszavonták, ami tovább növelte a független értékelők iránti igényt. Az Anthropic vezérigazgatója, Dario Amodei, és az OpenAI vezérigazgatója, Sam Altman is támogatja az ötletet, hogy független értékelők dolgozzanak a cégeknél. Donald Trump elnök is arra biztatta az AI-cégeket, hogy „partnerek legyenek egy független külső auditorral vagy értékelővel”.

Azonban a finanszírozás kérdése továbbra is nyitott. Suresh Venkatasubramanian, a Brown University professzora szerint „az a probléma, mint mindig, a pénz. Ki fizeti ezeket a cégeket a munkájukért? Hogyan fogják őket támogatni? Szükség van egy ökoszisztémára, életképes üzleti modellre ehhez.” A kritikusok szerint ez olyan, mintha a bankokat bíznák meg egy pénzügyi válság megelőzésével.

A független értékelők, mint az METR és a Transluce, feladatukká vált az AI-modellek képességeinek és kockázatainak felmérése, valamint a rosszul viselkedő technológiai példányok jelzése. Azonban az iparágban, ahol a tőke történelmi szinten áramlik, és az új modellek gyorsabban jelennek meg, mint valaha, ezek a szervezetek még csak most találnak magukra.

Az OpenAI nemrégiben három alkalmazottat bocsátott el „a bizalmas vállalati információkhoz való hozzáférésre és kezelésére vonatkozó szabályzatok megsértése miatt”. Két érintett, Mikita Balesni és Tomek Korbak, úgy vélik, hogy azért távolították el őket, mert kommunikáltak harmadik fél értékelőkkel.

A modell kiadásának visszavonása és a belső kommunikációval kapcsolatos problémák rávilágítanak a független értékelők és az AI-fejlesztő cégek közötti feszültségre. A kérdés az, hogyan lehet biztosítani az AI-modellek biztonságát anélkül, hogy ez akadályozná az innovációt és a növekedést. Az METR és a Transluce szerepe kulcsfontosságú lehet ebben a folyamatban, de a fenntarthatóságuk továbbra is bizonytalan.