Teljes leállítást követel Parmy Olson az AI-fejlesztésben a szuperintelligencia miatt

Olson az Ed Ludlow-val folytatott „Bloomberg Tech” című műsorban fejtette ki álláspontját, miszerint az AI-fejlesztés ütemezésének lassítása nem elegendő, ha a vezetők szuperintelligenciát tartanak fennállónak. (Bloomberg Technology)

Anthropic és a fejlesztési verseny

Olson rávilágít az Anthropic biztonságközpontú márkanevének és a folyamatosan erősebb modellek építésére irányuló versenynek a feszültségére. Kérdésesnek tartja, hogy a cég vezetése mennyire hisz komolyan a szuperintelligencia által jelentett kockázatokban, miközben látszólag sietnek a fejlesztéssel.

Miért nem elég a lassítás?

Az önálló értékelések javíthatják a felügyeletet, de valószínűleg nem lassítják érdemben a szuperintelligencia felé irányuló törekvéseket – véli Olson. Az ilyen értékelések inkább az átláthatóságot növelhetik, de nem jelentenek valódi féket a fejlődés ütemén.

Olson amellett érvel, hogy a szuperintelligencia egzisztenciális kockázatainak kezeléséhez nem elegendő a fejlesztés lassítása, hanem teljes leállítása szükséges. Véleménye szerint a jelenlegi versenyhelyzetben a lassítás nem oldja meg az alapvető problémát, és a kockázatok minimalizálásához radikálisabb lépésekre van szükség.