Hugging Face külső audittá válna, miközben az Nvidia felvásárolja

Elon Musk és Satya Nadella is üdvözölte az átláthatóság növelésére irányuló kezdeményezést, míg Dean Ball, az OpenAI stratégiai jövőkutatója az eddigi legkonkrétabb fejlesztésnek nevezte az AI-biztonság terén, de óvatosságra intett az erős rendszerek irányításának néhány kézbe összpontosításával kapcsolatban. (TNW)

Állandó hozzáférés és biztonsági ellenőrzés

Az Open Alignment Initiative keretében a harmadik félként bevonandó értékelők állandó, alkalmazotti szintű hozzáférést kapnának az AI-labak rendszereihez. Ezzel ellenőrizhetnék a biztonsági intézkedések betartását, jelenthetnének az incidensekről, és felmérhetnék a modellek igazodását a betanítás során. Az Anthropic vezérigazgatója, Dario Amodei szombaton jelentette be, hogy cége megnyitja kapuit az ilyen típusú ellenőrzések előtt.

Nvidia felvásárlás és jogi keretek

Elon Musk és Satya Nadella is üdvözölte az átláthatóság növelésére irányuló kezdeményezést, míg Dean Ball, az OpenAI stratégiai jövőkutatója az eddigi legkonkrétabb fejlesztésnek nevezte az AI-biztonság terén, de óvatosságra intett az erős rendszerek irányításának néhány kézbe összpontosításával kapcsolatban. A helyzetet bonyolítja, hogy az Nvidia szeptember 3-án jelentette be a Hugging Face 12,93 milliárd dolláros felvásárlását, miközben az Nvidia tárgyalásokat folytat az Anthropicba történő, akár 10 milliárd dolláros befektetésről is.

Az Nvidia azt ígérte, hogy a Hugging Face nyílt marad a felvásárlás után, de nem tisztázott, hogyan kezelik az esetleges összeférhetetlenséget, ha a leendő leányvállalatuk problémát fedezne fel egy általuk finanszírozott cégnél. A függetlenség kérdése jogi síkra is terelődik: Kalifornia az SB 813 törvényjavaslatban dönt arról, hogy kik minősülhetnek független AI-ellenőrző szervezetnek. Az METR nonprofit szervezet egy korábbi vizsgálata 400 000 dollárba került API-tokenekben, amit az OpenAI fizetett.