Y Combinator induló vállalatok most már könnyen hozzáférhetnek dedikált GPU klaszterhez

A Together AI és az Y Combinator (YC) bejelentette együttműködését, amelynek keretében létrehozzák az első dedikált GPU klasztert az YC közösség számára. A kezdeményezés célja, hogy az YC-hez tartozó AI-natív induló vállalatok könnyebben juthassanak hozzá a szükséges számítási kapacitásokhoz az alkalmazásaik fejlesztéséhez és skálázásához.

A GPU-kapacitásokhoz való hozzáférés vált az AI-fejlesztések egyik legnagyobb akadályává. A mesterséges intelligencia áttörései új generációs vállalatokat hoztak létre, amelyeknek kulcsfontosságú a számítási erőforrásokhoz való hozzáférés. Egyre több startup küzd ezzel, különösen időben és költséghatékonyan. Korábban egyszerű volt GPU-példányokat lekérni igény szerint, ma viszont a modellek minőségének és a tokenértéknek emelkedésével a kapacitás megszerzése az egyik legnehezebb feladat, nem beszélve a kedvező árakról. Sok startup számára a két évre szóló számítási szerződések előzetes költsége meghaladja teljes készpénzállományát.

Kapcsolódó: Nvidia GPU finanszírozás

Rugalmas, dedikált hozzáférés a számításhoz

A Together AI és az Y Combinator közös célja e probléma megoldása. A Together AI egy dedikált klasztert és fejlesztői környezetet hozott létre kifejezetten az YC portfóliócégei számára, hogy gyorsan és költséghatékonyan juthassanak számítási kapacitásokhoz inferenciához és képzéshez. A hosszú távú elkötelezettségek helyett az induló vállalatok rövid távú feladatokhoz is igénybe vehetik a GPU-kat, miközben kedvező, hosszú távú árakon dolgozhatnak. A klaszter támogatja az YC portfólió teljes igényét, az egynodes számítástól a növekvő igényekkel rendelkező vállalatokig.

Kapcsolódó: Microsoft és Nvidia Azure

Az YC startupjai profitálhatnak a Together kutatóinak, mérnökeinek és ügyfélszolgálati csapatainak tapasztalataiból, amelyek vezető AI-natív vállalatokkal való együttműködésből származnak. Az induló vállalatok közvetlenül a Together önkiszolgáló portálján keresztül foglalhatják le, provizionálhatják és kezelhetik GPU-ikat saját számlázási támogatással. Az alapítók percek alatt készen állhatnak a GPU-kkal, és az első naptól kezdve kézben tarthatják a használatukat. A klaszter jelenleg teljes kihasználtsággal működik, miközben az egyes vállalatok hónapokkal előre tervezhetik számítási igényeiket.

Kapcsolódó: Allbirds GPU felhő

Together AI ügyfélköre és kutatási fókusz

A Together AI négy évvel ezelőtt alakult azzal a meggyődéssel, hogy a generatív AI alapvetővé válik, és felépített egy felhőszolgáltatást a teljes generatív AI életciklusra. Jelenleg több mint 8000 ügyfelet szolgál ki, köztük olyan cégeket, mint a Cursor, a Decagon, a Cognition és az Eleven Labs. Ahogy a modellek fejlődnek, az előállított token értéke folyamatosan emelkedik, ezzel együtt pedig a mögöttes számítási költségek is. A Together kutatásai, beleértve az NVIDIA Nemotron modelljeiben is használt Mamba architektúrával kapcsolatos munkát, erre a problémára összpontosítanak: gyorsabb inferencia és jobb egység-gazdaságosság minden munkafolyamatra.

Kapcsolódó: Thinking Machines Nvidia chip

Az YC régóta az egyik legnagyobb seed-finanszírozója a kutatásvezérelt vállalatoknak, és a számítási kapacitás biztosítása elengedhetetlenné vált a legjobb alapítók vonzásához és támogatásához. Mindkét szervezet hisz abban, hogy az alapítók a legjobb munkát akkor végzik, ha hozzáférnek ugyanazokhoz az erőforrásokhoz, mint egy sokkal nagyobb vállalat. A számítási kapacitás most a legújabb ilyen erőforrás.

Kapcsolódó: Nvidia GTC AI nap

A Together AI és az YC tervezi a klaszter bővítését. A Together továbbra is támogatni fogja a cégeket, ahogy kilépnek a programból és skálázódnak a hosszú távon legmegfelelőbb beállítással. Ahogy ezek az igények növekednek, az alapítók a Together platform többi részét is igénybe vehetik, az inferenciától a finomhangolásig és képzésig, mindezt ugyanazon az infrastruktúrán, amelyet már ismernek.