Megbízhatatlannak tartja az AI-kihalási kockázat becsléseit a Princeton

Arvind Narayanan és Sayash Kapoor elemzése szerint a „p(doom)” becslések módszertani hiányosságai miatt a politikai döntéshozók téves következtetésekre juthatnak, különösen akkor, ha az intézkedések korlátozzák a nyílt AI-modellek kiadását. (AI Snake Oil)

A kutatók kiemelik, hogy bár a kvantitatív előrejelzések általában hasznosak, az AI-kivégzési kockázat esetében a mögöttes módszertanok nem alkalmasak a döntéshozatal megalapozására, mivel nem támaszkodnak validált modelleken.

Induktív becslések korlátjai

A legtöbb kockázatbecslés induktív módszereken alapul, amelyek múltbeli megfigyeléseken nyugszanak. Azonban az AI-kivégzési kockázat egyedi jellegéből adódóan nem létezik megfelelő referenciatartomány, amelyhez hasonlítani lehetne. Ez azt jelenti, hogy az ilyen becslések lényegében találgatások, amelyek nem támaszkodnak empirikus bizonyítékokra.

Szubjektív becslések és a „p(doom)” kultúra

A kutatók kritikával illetik a „p(doom)” kultúrát, amely túlságosan a szuperintelligenciára összpontosít. Ezt a szűk fókuszú megközelítést kontraproduktívnak tartják a szélesebb körű AI-biztonsági mozgalom szempontjából.

Narayanan és Kapoor egy „big tent” (szélesebb befogadású) biztonsági mozgalomra tesz javaslatot, amely nem csupán a valószínűségi becslésekre támaszkodik, hanem a gyakoribb, kevésbé spekulatív kockázatokkal is foglalkozik.