Az emberiség pusztítását jósolja egykori Anthropic-kutató
A szakértő szerint a technológiai óriások felelősségét takarja el a hipotetikus apokalipszis körüli vita, miközben a valós veszélyek már most fennállnak.
Dr. Mhairi Aitken, az Our AI Collective CIC igazgatója és társalapítója szerint a veszélyt nem maga a technológia, hanem a fejlesztő és irányító szervezetek jelentik. A kutatók, politikusok és iparági szereplők gyakran a több biztonsági intézkedésben, erősebb szabályozásban és „kill switch”-ekben látják a megoldást, ami arra az alapfeltevésre épül, hogy a jövőbeli AI továbbra is csak egy eszköz marad. (Guardian AI)
A rendszer céljainak alakulása
Aitken szerint nem az intelligencia a kritikus küszöb, hanem az, hogy egy rendszer kifejleszti-e saját céljait, preferenciáit vagy értékeit. Egy intelligens rendszer, amely csupán utasításokat követ, továbbra is eszköz marad. Ám ha elkezd célokat értelmezni, priorizálni vagy követni, az már valami mássá válik. Isaac Asimov robotikai törvényei is erre a különbségre világítottak rá, bemutatva, hogyan bomlik meg a szabályalapú kontroll, amikor egy gép elkezdi értelmezni a szabályokat ahelyett, hogy egyszerűen csak engedelmeskedne nekik.
Retorika és felelősség
David Black Londonból úgy véli, ha az AI-t szabályozni akarjuk, változtatni kell azokon a csillogó retorikákon, amelyekkel az AI-ról beszélnek. Egy olyan gépet tervezni, amely felett már nincs kontroll, nem a „szuperintelligencia” érkezését jelenti, hanem a tervező csődtömegét. A retorika megváltoztatása megkönnyítené a kontroll és a felügyelet fontosságának hangsúlyozását.
Coxon szerint, ha az AI továbbra is eszköz marad, a legnagyobb veszélyt az emberi ítélőképesség átadása jelenti olyan rendszereknek, amelyek bizonyosságot sugároznak megértés nélkül. Ha az AI saját célokat fejleszt ki, a szabályok és a „kill switch”-ek nem biztonsági intézkedéssé, hanem akadályokká válnak. A Jacob Coxon által megfogalmazott figyelmeztetés 2026. szeptember végén került nyilvánosságra a Guardianban.