Szabadon kellene használni a modell-distillációt az amerikai AI-laboroknak, Garry Tan szerint

Garry Tan, az Y Combinator vezérigazgatója arra szólítja fel az amerikai szabályozókat, hogy ne avatkozzanak be a modell-distillációba. Sőt, szerinte az Egyesült Államoknak saját „amerikai modell-distillációs rendszert” kellene létrehoznia, amely lehetővé teszi a kisebb, nyílt súlyú amerikai AI-laborok számára, hogy a legfejlettebb modellekből nyerjenek ki tudást.

Az Anthropic nemrégiben publikált egy jelentést, amelyben illegális „distillációs támadásokkal” vádolja kínai laborokat, amelyek állítólag személyazonosságukat elrejtve, csalással és ellopott hitelesítő adatokkal próbálnak meg adatokat kinyerni.

A distilláció technikai háttere

A modell-distilláció lényege, hogy egy modell készítője alaposan kikérdez egy másik modellt, hogy megértse annak működését és érvelését. Ez egy bevett és legális technika új modellek betanítására.

Érvelés a szabályozás ellen

Tan azonban nem ért egyet azzal, hogy az amerikai AI-cégeknek tiltani kellene ezt a módszert. Érvelése szerint egyrészt túlkapás az AI-laborok részéről diktálni, hogy az ügyfelek mit tehetnek az általuk megosztott információkkal. Másrészt emlékeztetett arra, hogy a saját, zárt modellek fejlesztői sem kértek engedélyt, amikor hatalmas mennyiségű emberi tudást gyűjtöttek be betanításhoz, beleértve sok szerzői jog által védett anyagot is.

„Korlátozónak érzem azt, hogy az API-hívásokkal szerzett intelligenciához való hozzáférést a felhasználók és az ügyfelek számára szabályozni próbálják. A kormánynak itt szerepe lehet abban, hogy normalizálja azt a tényt, hogy a széles nyilvános adatokon betanított intelligenciához való hozzáférésnek magának is inkább közjónak kellene lennie, nem pedig szigorú szolgáltatási feltételek mögé zárva” — mondta Tan a TechCrunch-nak.

Az Y Combinator vezérigazgatója egyensúlyt szeretne látni a nyílt súlyú és a legfejlettebb AI-modellek között. „A csúcson vannak és előre hajtják azt. Szeretnénk, ha ez finanszírozható lenne, és nagyszerű üzleti modell lenne. Ugyanakkor azt akarjuk, hogy a nyílt súlyú modellek szabadságot és hozzáférést biztosítsanak az embereknek” — nyilatkozta a CNBC-nek.

Tan szerint a legrosszabb forgatókönyv az, ha a legfejlettebb AI ereje egyetlen, monolitikus cég kezébe kerülne, amely a legjobb tőkéhez és kutatókhoz fér hozzá. „Az AI-val kapcsolatos rémálomforgatókönyv az, ha csak egyetlen cég létezik” — mondta a CNBC-nek.