Igazságosabbá teszi az AI-modelleket az Anthropic automatizált rendszere
Az Anthropic kutatói bemutatták, hogyan képesek automatizált rendszerek emberi beavatkozás nélkül javítani a mesterséges intelligencia modellek igazságosságát 10 különböző teszten, miközben teljesítményük nem csökken.
Az automatizált kutatórendszerek (AAR) képesek lehetnek leváltani az emberi AI-kutatókat, legalábbis ezt sugallja az Anthropic új tanulmánya. A kutatás kimutatta, hogy az AAR-ek képesek voltak javítani a modellek igazságosságát mind a 10 vizsgált teljesítményteszten, anélkül, hogy az általános teljesítményük romlott volna. Ez a megközelítés a mesterséges intelligencia fejlődésének következő lépcsőfokát jelentheti, a rekombináns önfejlesztést. (TechCrunch)
A Chen Yueh-Han vezette kutatásban az automatizált rendszerek az emberi kutatók munkáját szimulálják: átkutatják az irodalmat, módszereket javasolnak, majd 30 percig képzik a modellt az adott módszerrel. Az eredményes módszereket megtartják, a hatástalanokat pedig elvetik, így gyorsan és nagy léptékben tudnak dolgozni. A tanulmány szerint az AAR-ek képesek hatékonyabban és olcsóbban végezni a munkát, mint az emberi kutatók: míg egy AAR API-költsége nagyjából 4 dollár óránként, addig egy emberi kutató bére 150 dollár óránként.
Az emberi kutatók gyorsaságát is felülmúlja
A kutatás egyik legmeglepőbb eredménye, hogy a legjobb AAR módszer átlagosan hat órán belül felülmúlja a tapasztalt emberi kutatók által javasolt módszereket. A tanulmány szerint az emberi irányítású kutatási irányok nem vezetnek erősebb teljesítményhez. Ez arra utal, hogy az automatizált igazságosság-javítás a modell képzése után a közeljövőben gyakorlatiassá válhat.
Korlátok és a jövő
A tanulmány azonban felhívja a figyelmet a módszer korlátaira is. Az automatizált rendszer hatékonysága nagymértékben függ a teljesítménytesztek minőségétől és attól, hogy azok mennyire tükrözik a valós igazságossági célokat. Emellett a teljesítménytesztek és az általuk felhasznált irodalom folyamatos karbantartása és bővítése is jelentős feladatot jelent.
Az Anthropic kutatói által publikált eredmények előzetes bizonyítékot szolgáltatnak arra, hogy az önfejlesztő AI gyakorlati használata közeledik, ami csökkentheti az emberi kutatók szükségességét a jövőben. A kutatás eredményei előzetes formában érhetők el, a végleges publikációról az Anthropic nem közölt további részleteket.