Az Anthropic mérnöke felügyeli a Claude megbízhatóságát, új adatrendszert épít
Gurmeet Saran, az Anthropic mérnöke új adatrendszereket fejleszt a Claude megbízhatóságának biztosítására, miközben a magánszféra védelme és az LLM-ek monitorozása jelenti a fő kihívást.
A magánszféra védelme nem utólagos réteg, hanem az architektúra része kell, hogy legyen – hangsúlyozza Gurmeet Saran, az Anthropic mérnöke. Az IEEE senior tagja szerint a megbízható válaszok biztosítása kulcsfontosságú az Anthropic missziójában, amely az AI-ügynökök biztonságos, etikus és nem megtévesztő működését célozza. (IEEE Spectrum)
Az LLM-ek viselkedésének megfigyelése komoly kihívást jelent. „Jelenleg még kitaláljuk, hogyan monitorozzuk az LLM-eket” — közölte Saran. Bár a hagyományos adatbázisok és webszolgáltatások megfigyelésére vannak eszközeik, a nagy nyelvi modellek esetében ez még nem megoldott probléma. Az AI-rendszerek megbízhatóságának biztosítása az egyik legfontosabb mérnöki feladat a következő évtizedben, amelyről kevesebb szó esik, mint magukról a modellképességekről.
Adatminőség és egységes logika
Saran korábbi munkahelyein, a Yahoo-nál, az Intuitnál és a Metánál is adatminőségi problémákkal szembesült. A Yahoo-nál például különböző csapatok eltérő logikával számolták ugyanazokat a webes metrikákat, ami ellentmondásos válaszokat eredményezett. A probléma megoldására egy központi adattárat hoztak létre, ahol definiálták a metrikákat, így egységes forrásból dolgozhattak a csapatok.
Az Intuitnál egy valós idejű adóbevallási csalásészlelő rendszert épített, amely szigorú amerikai adószabályok betartása mellett védte az adófizetők adatait. Ebből is levonta a következtetést: a privát adatok védelmének és a governance-nek az architektúrába kell beépülnie, nem utólagos rétegként.
A Meta és a videós metrikák
A Meta (akkoriban Facebook) alkalmazottjaként Saran egy olyan rendszert épített, amely a videómegtekintések számításánál egységes, „egyetlen igazságként” definiált logikát használt. A korábbi gyakorlatban ugyanis a cég túlzottnak bizonyult videómegtekintési adatokat közölt. A Metric360 nevű rendszer végül a cég videós metrikáinak kiszámításának alapjává vált.
Saran 2025-ben csatlakozott az Anthropic-hoz. Egy orvosi analógiával élve, a munkája olyan, mintha egy orvos a beteg életjeleit figyelné. Ha a mérőeszközök pontatlanok, a legfontosabb döntések a marginális értékeknél hibázhatnak. Saran feladata, hogy biztosítsa, az AI-rendszerek „műszerei” pontos olvasmányokat adjanak, és az adatok azt jelentsék, amit jelentenek.