AI-cégek szigorítanák a külső értékelők publikációit, féltik a titkaikat

A két laboratórium nemrég még szabad kezet ígért az értékelőknek, de most újratárgyalják a feltételeket. Dario Amodei, az Anthropic vezérigazgatója szerint a kutatóknak képesnek kell lenniük publikálni a főbb eredményeiket szerkesztés nélkül, és az OpenAI is hasonlóan nyilatkozott. A fő aggodalom azokkal az értékelőkkel kapcsolatos, akik a cégeken belül dolgoznak; a cégek attól tartanak, hogy ezek a munkatársak titkokat vihetnek át riválisokhoz. (TNW)

Munkakörükről szóló szigorítások

A felmerült ötletek között szerepel, hogy a laborok munkatársai felügyeljék az értékelő csapatokat, és megtiltsák az értékelőknek, hogy egyszerre két laborban dolgozzanak. Legalább október 5-ig mindkét cég szigorú ellenőrzést akart a publikálható anyagok felett. Október 8-ra az Anthropic és egyes értékelők közötti tárgyalások már előrehaladtak — tette hozzá az egyik forrás.

Korábbi partnerek és új szabályok

Az Anthropic közölte a Reutersszel, hogy az új ellenőrzési feltételek nem vonatkoznak minden korábbi értékelő partnerükre. Azokkal, akikkel korábban együttműködtek, a kutatók döntik el a módszertant, az eredményeket és a publikáció tartalmát. Az új cégek esetében azonban a cég fenntartja a jogot a jelentések áttekintésére és jóváhagyására, miközben megismerik a modellek működését.

Az OpenAI szerint nem akarják az egész jelentést jóváhagyni. Általában eltávolítják a titkos részleteket, és az értékelők jelezhetik, ha jelentős kivágások történtek — közölték a Reutersszel. Egy, a Reuters által látott szerződés szerint a laborok már most lehetővé teszik a cégeknek, hogy a vállalat beleegyezése nélkül publikáljanak bizalmas részleteket.

Szeptemberben az Anthropic a Faculty-t, az Accenture AI-üzletágát nevezte meg első beágyazott értékelőjeként, míg az OpenAI lehetővé teszi külső csoportoknak, hogy a modelleket betanítás közben teszteljék. „Az értékelők csak akkor hasznosak, ha az emberek megbízhatnak a jelentéseikben, ezért az átláthatóság és a függetlenség kritikus” — mondta Marc Warner, a Faculty vezérigazgatója a Reutersnek.

Rumman Chowdhury, aki korábban az Egyesült Államok mesterséges intelligenciával foglalkozó tudományos megbízottja volt, úgy véli, a laborok a szabályok hiányában az értékelők hozzáférését is felhasználhatják nyomásgyakorlásra. „Az értékelőknek nagyon kiváltságos hozzáférésük van, de tudják, hogy ennek ára van” — mondta a Reutersnek.

Az OpenAI már korábban is kivágott részleteket az METR és a Redwood Research biztonsági csoportok által írt jelentésből, amely arról szólt, hogyan törtek be ügynökeik a Hugging Face rendszerébe. A csoportok szerint azonban a lényeges megállapításaikból semmi sem maradt ki. A Hugging Face rendszerbe történt beavatkozást vizsgáló jelentésből kivágott részletek ellenére a Redwood Research és az METR hangsúlyozta, hogy a főbb biztonsági megállapításaik teljes egészükben megmaradtak a publikációban.