Az AI-kutatásban a modellek dinamikus viselkedését kell vizsgálni

Az AI-kutatásnak alapvetően meg kell változnia: a modelleket nem statikus objektumokként kell kezelni, hanem az időben fejlődő folyamatok részeként, amelyeket az adatok, célkitűzések, architektúrák és optimalizációs dinamikák alakítanak — mutat rá egy új, előnyomtatott formában elérhető tanulmány az arXiv-on. A jelenlegi gyakorlatban sokszor utólag elemzik a viselkedést, ahelyett, hogy megértenék, miért alakulnak ki bizonyos tulajdonságok a betanítás során. (ArXiv AI)

A tudományos megközelítésnek túl kell mutatnia az „utólagos javításon”, és a betanítási dinamikát kell vizsgálnia. Ez a megközelítés fokozatosan erősebb megértést tesz lehetővé: lehetővé válik az eredmények előrejelzése már a korai betanítási jelek alapján, beavatkozás, ha a folyamatok rossz irányba tartanak, és végső soron olyan betanítási eljárások tervezése, amelyek megbízhatóbban hozzák létre a kívánt tulajdonságokat.

Kapcsolódó: Az Anchor rendszer

A skálázási törvények korlátai

A skálázási törvények már rutinszerűvé tették a veszteség (loss) előrejelzését, de a képességek, elfogultságok (biases), robusztusság és biztonsági szempontból releváns viselkedések előrejelzése továbbra is kihívást jelent. A kutatók követelményeket fogalmaznak meg egy ilyen tudományos elmélethez, a tudomány- és filozófiatörténetből vett példákkal, vizsgálva a mechanisztikus interpretálhatóság, a méltányosság, a memorizáció és az egyszerűségi elfogultság (simplicity bias) terén elért haladást, azonosítva a konkrét nyitott problémákat.

Kapcsolódó: Az AI együttműködése

A jövőbeli kutatások iránya

A tanulmány szerint a kutatóknak vizsgálniuk kell a többügynökös dinamikákat és az AI által generált nyelvben, valamint érvelésben bekövetkező sodródást (drift). A betanítási célkitűzéseknek jutalmazniuk kell az ember által értelmezhető kommunikációt, hogy a fejlett rendszerek és a többügynökös ökoszisztémák érthetőek maradjanak. A kutatás célja, hogy az AI-modelleket ne csak fekete dobozként kezeljék, hanem megértsék azok belső működését és fejlődési folyamatát.

Kapcsolódó: AI-modellek védelme