50 százalékos kihalási kockázatot jósolt a volt OpenAI-kutató

Geoffrey Irving, aki korábban az OpenAI-nál és a Google DeepMindnél is dolgozott, úgy véli, „a kihalás esélye nagyjából egy pénzfeldobás”. Neel Nanda, a Google DeepMind kutatója legalább 10%-os valószínűséget tart reálisnak az emberiség kihalására az AI által, amit „nevetségesen magasnak” nevez.

Kutatási becslések és személyes motivációk

Daniel Kokotajlo, az OpenAI korábbi kutatója ennél is tovább megy, szerinte a szuperintelligens AI „lényegében istenszerűen hatalmas lenne”. Hozzátette: „sajnos nem tudjuk, hogyan irányítsuk őket egyáltalán. És így valószínűleg senki sem irányítaná őket. Ez pontosan olyan veszélyes, amilyennek hangzik, és nem szabadna megtörténnie.”

A videókban a kutatók azt is megvizsgálják, hogy vajon a félelmek csak túlzott hype-ot vagy marketinget jelentenek-e, illetve miért dolgoznak olyan projekteken, amelyek ennyire veszélyesnek tűnnek. Mary Phuong, a Google munkatársa elismerte: „Abszolút gyanakodnia kellene arra, amit mondok, mert a labor fizet engem.” Nanda szerint viszont, ha nem hinné, hogy a munkája közvetlenül csökkenti ezeket a létezési kockázatokat, „kilépne”, mivel a cégek nem állnának le a rendszerek fejlesztésével akkor sem, ha ő távozna.

A Palisade Research által gyűjtött interjúkban a kutatók aggasztó becsléseket osztanak meg a technológia potenciális következményeiről — írja a The Verge.