Az OpenAI modelljei csökkentették a Jalapeño chip cellaterületét
A cég becslése szerint a modellek javaslatai a Jalapeño vektoregységében körülbelül 13, a mátrixegységében 10 százalékkal csökkentették a szabványcellák területét.

Az OpenAI modelljei egyre inkább részt vesznek a chipek tervezésében — írja az OpenAI. A cég augusztusban arról számolt be, hogy mérnökei a modelljeikkel gyorsították első saját inferenciachipjének, a Jalapeñónak a kidolgozását. Most részletesebben is bemutatták, milyen szakértői szintű tervezési javításokat hozott a modell, és hogyan alkalmazzák ugyanezt az AMD hardverén.
Javítások a Jalapeño számítási blokkjaiban
Az OpenAI a GPT-o3 mini modellt használta a Jalapeño tervezéséhez. Már ez a korai modell is érdemi PPA-javulásokat talált, többek között a vektoregységben, ahol a megtakarítás a lebegőpontos összeadókból és szorzókból, konverziós függvényekből, redukciós logikából és a speciális funkcióegységből származott.
A mátrixegységben a javulások a lebegőpontos összeadókon, szorzókon és alacsony pontosságú skaláris szorzat áramkörökön halmozódtak fel. Az egyik szorzó újratervezése szintézisben körülbelül 15 százalékkal kevesebb cellaterületet igényelt, miközben a késleltetés két órajelciklusról egyre csökkent. Egy másik összeadó-átalakítás szintén mintegy 15 százalékos területcsökkenést hozott, a kétciklusos késleltetés megtartásával.
A cég becslése szerint a modell javaslatai a teljes Jalapeño-tervezésben a vektoregység standardcella-területét körülbelül 13, a mátrixegységét 10 százalékkal csökkentették. Ezeket az optimalizálásokat a Jalapeño szilíciumos üzembe helyezése során hardveresen is igazolták.
Együttműködés az AMD-vel
Az OpenAI az AMD-vel közösen dolgozott a PPA-javításokon, és a cég szerint a vállalat már optimalizált csúcsmodelljén akár 14 százalékos javulást értek el. A modell az áramkörök leírását adó SystemVerilog RTL-kód átírásával további fejlesztéseket talált. Az OpenAI ezt úgy fogalmazza meg, hogy kevesebb mint 5 hónap alatt körülbelül egy év fejlődés történt. Az AMD a változások egy részét már beépítette egy gyártásba küldött tervbe, másokat pedig a jövőbeli verziók terveihez adott hozzá.
Az OpenAI szerint a modell szakértő mikroarchitektusként gondolkodott az RTL-ről: képes volt a számításokat, vezérlési műveleteket és adatmozgatást végző áramköröket átírni. A változások helyességét a Synopsys eszközeivel ellenőrizték, amelyek a teljesítmény, sebesség és terület közötti kompromisszumokat is kiértékelték.
Az AMD saját bejelentése szerint a modell által írt tervekkel következő generációs csúcs-CPU-jának kulcsblokkjaiban egyjegyű százalékos PPA-javulást mértek. A cég további javulást vár a GPU- és CPU-tervekben a legoptimalizáltabb kiindulóponthoz képest.
RISC-V magok optimalizálása
A tesztekhez két nyílt forráskódú, 32 bites RISC-V magot használtak: a PicoRV32-t, amely újraprogramozható FPGA-chipekhez készült, és az OpenTitan biztonsági chipjében beágyazott processzorként használt Ibexet. A modelleknek az eredeti hardverleírást adták, és a feladat az átbocsátóképesség (az utasítások száma másodpercenként) növelése volt. Minden tervet szimulációban ellenőriztek, és nulla pontot kapott, ha hibás volt, vagy az eredeti mag területének több mint 16-szorosát használta.
Körülbelül 112 000 tokenes költségvetés mellett a GPT-6.2 Astra érte el a legmagasabb átlagos pontszámot mindkét magon, a GPT-6.1 Sol pedig mindkét esetben felülmúlta a GPT-5.6 Solt. A PicoRV32 esetében a GPT-6.2 Astra pontszáma kb. kétszerese volt a GPT-6 Astráénak ugyanekkora költségvetés mellett.
RISC-V mag tervezése specifikációból
A második feladatban a modelleknek írott követelményeket és a rendszerhez való csatlakozást mutató sablonokat adtak. Itt a modell maga döntötte el, hogyan mozog az adat a magban, és hogyan osztja szakaszokra a munkát. Körülbelül 112 000 tokenes futásonként mind az öt modell magasabb pontszámot ért el, amikor a specifikációból tervezett magot, mint amikor a meglévő tervet próbálta javítani. Ez mindkét magra igaz volt. A PicoRV32 specifikációjából kiindulva a GPT-6.2 Astra átlagosan körülbelül 0,7 pontot ért el, az Ibexen pedig kb. 0,75-öt.
A cég szerint a specifikációból induló feladat több teret enged a modellnek, hogy kihagyjon olyan funkciókat, mint a teljesítményszámlálók vagy egyes kiegészítő utasítások, amelyek a tesztmunkafolyamatokon keveset dobnak az átbocsátóképességen. Ez részben magyarázhatja a pontszámelőnyt. Az OpenAI szerint a szigorúbb feltételek — ilyen funkciók kötelező megtartása, szűkebb területkorlát és fizikai szintézis utáni időzítési ellenőrzés — jobban tükröznék a valós gyártási tervezést.
Mi következik
Az OpenAI szerint a modellek RISC-V-tesztekben már bizonyítottan új processzorarchitektúrákat tudnak feltárni, és valódi, gyártásközeli tervekhez is hozzájárultak, például a Jalapeñóhoz és az AMD következő generációs csúcs-GPU-jához és CPU-jához. A cég a Synopsysszel együttműködve egy GPT-Synopsys nevű modellt tanít be. Az OpenAI a Jalapeño cellaterületének 13 és 10 százalékos csökkenésénél zárja a bekezdést.