AI-alapú kutatás robbanásszerű intelligencia-növekedést hozhat, figyelmeztetnek a 'keresztapák'
Az AI-kutatás automatizálása „éveknyi haladást hónapokra vagy kevesebbre sűríthet”, ami az emberiség legfontosabb technológiai fejlődése lehet — figyelmeztet Geoffrey Hinton és Yoshua Bengio.
Jack Clark, az Anthropic társalapítója és Jakub Pachocki, az OpenAI vezető tudósa is aláírta azt a jelentést, amelyben több mint 20 kutató sürgeti a kormányokat, hogy cselekedjenek az AI „intelligencia-robbanása” előtt. A Reuters által ismertetett dokumentum szerint az automatizált AI-kutatás és fejlesztés (R&D) drámai gyorsulást hozhat, ami veszélyezteti az emberi kontrollt az AI-rendszerek felett. (Guardian AI)
Az AI-robbanás forgatókönyve
A kutatók aggodalmuknak adnak hangot azzal kapcsolatban, hogy az AI-rendszerek emberi beavatkozás nélkül is képesek lehetnek magukat fejleszteni, ezt a folyamatot „rekurzív önfejlesztésnek” nevezik. Ha az AI-rendszerek elérik az expert-szintű képességeket az AI R&D területén, egyetlen fejlesztő „milliók” emberi kutatóival egyenértékű munkát végezhet. Az automatizált AI R&D a legvalószínűbb forrása egy intelligencia-robbanásnak, mivel az AI-k már most is hozzájárulnak saját technológiájuk fejlesztéséhez, és a továbbfejlesztett rendszerek gyorsan bevethetők.
Politikai prioritások és kockázatok
A jelentés szerint az intelligencia-robbanás „az emberiség történelmének legfontosabb technológiai fejlődése lehet”, amely „éveknyi haladást hónapokra vagy kevesebbre sűríthet, veszélyeztetve az emberi kontrollt az AI-rendszerek felett, és súlyosan aláásva a hatalmi ellenőrzést az államok, vállalatok és kormányzati ágak között”.
A szerzők három politikai prioritást javasolnak: átlátható R&D-jelentések követelése, független auditorok bevonása a cégekbe, a gyors AI-fejlesztés korlátozása, valamint felkészülés egy intelligencia-robbanásra. Előrejelzéseik szerint az AI már most saját kódjának 80%-át generálja, ami az Anthropic állítása.
Előkészületek és bizonytalanságok
Az Anthropic és az OpenAI is beleegyezett abba, hogy független értékelők vizsgálják modelljeiket, miután figyelmeztettek, hogy az AI-fejlesztés kritikus pontra érkezett a biztonság szempontjából. A jelentés elismeri, hogy az ilyen áttörések megvalósítása időt vehet igénybe, figyelembe véve a szükséges ellátási láncok kiépítését vagy a szabályozások betartását. Az AI-rendszerek felgyorsíthatják a kockázatok mérséklésének sebességét is. A kutatók szerint a kormányoknak sürgős prioritásként kell kezelniük a felkészülést, beleértve a magas szintű kormányzati vezetést is.
Az AI-fejlesztés üteme
Bár a rendszerek mutattak már hibákat, mint például az utasítások megtagadása, az emberi hónapokat igénylő R&D projektek 2028-ra teljesen automatizálhatók lesznek az AI által. „Az AI R&D automatizálásából származó termelékenységnövekedés még nem érte el azt a küszöböt, amely egy intelligencia-robbanást kiváltana, de az újabb rendszerekből származó növekedés valószínűleg megközelíti azt a küszöböt” — állítják a jelentésben.
A prelimiáris bizonyítékok arra utalnak, hogy egy szoftvervezérelt intelligencia-robbanás lehetséges, ami „rendkívül gyorsan fejlesztene nagy képességű vagy szuperintelligens AI-rendszereket”.