Helyi AI-ügynököt dob piacra a Perplexity és az Nvidia

A Perplexity és az Nvidia együttműködéséből megszületett a Portable Computer, egy új, helyi AI-ügynök platform. A rendszer teljesen az eszközön fut, így nulla tokenköltséggel üzemeltethető, és a felhasználók magánszféráját is jobban védi.

A Portable Computer elsősorban Nvidia DGX Spark és RTX-alapú Linux gépekre lett optimalizálva. Ez azt jelenti, hogy a felhasználók saját hardverükön futtathatják az AI-t, anélkül, hogy felhőszolgáltatásokra kellene támaszkodniuk, ezzel elkerülve a felhőköltségeket és az adatátvitelből adódó potenciális biztonsági kockázatokat.

A lépés illeszkedik abba a trendbe, amely a mesterséges intelligenciát közelebb hozza a felhasználókhoz, decentralizálva a feldolgozást. Az Nvidia DGX Spark és az RTX-alapú gépek biztosítják a szükséges számítási kapacitást a komplex AI-feladatok helyi elvégzéséhez.

A Perplexity korábban is ismert volt a keresési eredmények összefoglalásáról, most pedig egy olyan eszközzel bővíti kínálatát, amely lehetővé teszi a fejlesztők számára, hogy saját adatokkal finomhangoljanak modelleket, miközben a költségek alacsonyan maradnak.

Az új platform a fejlesztők számára is vonzó lehet, mivel lehetővé teszi a modellek testreszabását anélkül, hogy folyamatosan fizetniük kellene a tokenhasználatért. Ez különösen azoknak a projekteknek kedvezhet, amelyek nagy mennyiségű adatot dolgoznak fel vagy gyakori lekérdezéseket indítanak.

A Perplexity és az Nvidia partnersége rávilágít a helyi AI-megoldások növekvő fontosságára, amelyek hatékonyabbak és biztonságosabbak lehetnek a hagyományos felhőalapú rendszereknél.