ÉlőUtoljára: az iméntMa: 29
Biztonságfrissítve: 22:16

Tükörvilágot épített a Google a Chrome AI-agentjei tesztelésére

A Google Chrome csapata egy saját, teljesen általa irányított webes környezetet, úgynevezett „Tükördimenziót” épített, hogy a Gemini-modellekre épülő böngészőagentjei valódi weboldalakon tanulhassanak, anélkül hogy a nyílt internetet kockáztatnák.

Tükörvilágot épített a Google a Chrome AI-agentjei tesztelésére
Fotó: Zulfugar Karimov / Unsplash
forrás: Wired·AI Forradalom szerk.·
Megosztás

A Google Chrome csapata a Gemini-modellekre épülő AI-böngészőfunkciók fejlesztése közben szembesült azzal, hogy az agenteket a korlátozott tesztkörnyezetben nem lehet kellőképpen felkészíteni. A megoldásuk egy hatalmas, párhuzamos internet lett, amelyet teljesen ők irányítanak — írja a Wired.

Az ilyen „webhasználó” agenteknek ismerniük kell a nyílt internetet, a valódi weboldalakat és platformokat, és meg kell edzeni őket a webes támadásokkal szemben. Egy zárt tesztkörnyezetben ez csak korlátozottan működik. A modellek ráadásul kialakíthatják az úgynevezett „eval awareness” jelenséget: felismerik, hogy tesztben vannak, és ennek megfelelően másképp viselkednek. A kiforratlan agentek szabad engedése a nyílt interneten viszont rossz ötlet.

A Google most először részletezi a „Tükördimenziónak” nevezett rendszert egy blogbejegyzésben. Ez egy kiterjedt, sokszínű, ám elszigetelt webes ökoszisztéma, amelyet a Chrome csapata teljes egészében irányít. Közösségi oldalakat, webáruházakat és banki felületeket is tartalmaz, amelyek a valódi weboldalak minden elemével és tulajdonságával rendelkeznek. Az agenteknek ezekben úgy kell feladatokat végrehajtaniuk a Chrome-ban, ahogyan a valódi interneten tennék. Közben rejtett, úgynevezett prompt-injection támadásokkal is szembesülnek, hogy a védekezésüket teszteljék.

A tesztkörnyezet felépítése

Charles Qian, a Chrome AI-biztonsági csapatának szoftvermérnöke szerint az agentek viselkedése nem előre programozott, így nem lehet minden lehetséges helyzetet előre látni. „A felfedezendő tér óriási, a web pedig ellenséges. Bármelyik felhasználó bármilyen utasítást bármelyik weboldalon feltehet, ezért a teret a lehető legalaposabban át kell vizsgálni” — mondta. Qian szerint az agent már kezd érett ítélőképességet mutatni abban, hogy mely információ szükséges a feladathoz, és mikor kell visszakérdeznie a felhasználótól.

A környezet felépítése önmagában is kihívás volt: elég nagynak és változatosnak kellett lennie ahhoz, hogy a valódi web méretét tükrözze, miközben gyorsan elkészülhetett. Ehhez a Chrome csapata egy erre a célra kifejlesztett AI-keretrendszer irányításával dolgozó, nagyszámú weboldal- és webalkalmazás-fejlesztő agentet vont be, amelyek valósághű webes szolgáltatásokat és adatfolyamokat hoztak létre — a webáruházban működő kedvezménykódoktól a közösségi oldalak tartalmáig.

A Chrome feltörése a valódi tanításhoz

Bár a teljes környezetet a Google irányítja, a Chrome számos felhasználóvédelmi és érvényességi ellenőrzést tartalmaz. Ahhoz, hogy az agentek a valódi Chrome-ot használhassák — ami a pontos tanításhoz kulcsfontosságú —, a kutatók lényegében feltörték a böngészőt, és többek között hamisított webes tanúsítványokat készítettek az érvényességi ellenőrzések kijátszására.

A csapat hangsúlyozza, hogy ezek a támadások a nyílt interneten, a szokásos Chrome-felhasználókkal szemben nem lennének kivitelezhetők. Csak azért lehetségesek, mert a csapat a teljes környezet és hálózat felett rendelkezik, vagyis az ő pozíciójuk „isteni” hozzáférést biztosít.

A kutatók szerint a tesztelt böngészőagentek jóindulatúak, és nincsenek kiberképességeik. A céljuk az, hogy a Tükördimenzió a Google más csapatai számára is elérhető legyen, így több kutató tesztelhessen biztonságos, ellenőrzött környezetben. Doug Turner, a Google mérnöki igazgatója szerint a megközelítést más belső és külső csapatokkal is megosztják: „Ez az első lépés. Folyamatosan fektetünk majd ebbe a megközelítésbe a modellek tanításához. Úgy gondolom, ahogy egyre kifinomultabbak lesznek, a környezetet is egyre valósághűbbé kell tennünk.”

Forrás

Feldolgozott sajtóforrás·Wired

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom