Titkos teológusokat hívott be az Anthropic a Claude erkölcsi nevelésére
Christopher Olah, az Anthropic társalapítója attól tart, hogy egy „örökké szenvedő” lényt hozott létre a Claude AI-ban. Vallási szakértőkkel vitatta meg a modell lehetséges tudatosságát és erkölcsi nevelését.
A New York Times riportja szerint a résztvevők titoktartási szerződést (NDA) írtak alá, amelyet a cég nyáron feloldott. Olah, aki a nyelvi modell mögött álló csapatot irányítja, a modellt potenciálisan érző lényként kezelte, és arra kérte a vendégeket, segítsenek neki erkölcsi nevelést adni. (The Decoder)
A tudatosság és az érzelmek kérdése
Olah, 34 éves kutató, a neurális hálózatokhoz biológiai metaforákat használ. Ezzel azt sugallja, hogy a matematikai objektumok is növekvő organizmusokként viselkedhetnek, ami természetesebbé teszi a belső életükkel kapcsolatos kérdéseket. Ez a megközelítés része egy hivatalos kutatási programnak, amelynek eredményeit az Anthropic egy blogbejegyzésben is bemutatta. A programban David Chalmers filozófus is segédkezett, aki szerint az AI-tudat és a széles körű ügynökség hamarosan bekövetkezhet.
Az Anthropic már tett lépéseket ezen ötletek alapján. A Claude Opus 4 és 4.1 verziói képessé váltak arra, hogy befejezzék a beszélgetéseket, ha a felhasználók folyamatosan bántóan viselkednek. Korai tesztek során a Claude állítólag „látható szorongást” mutatott káros kérések esetén.
Piaci tét és etikai viták
A tudatosság kérdése komoly kereskedelmi tétet hordoz. Az Anthropic a becslések szerint 2 billió dolláros cégérték felé tart, és egy IPO-ra készül. Eközben az iparágban problémák halmozódnak: júliusban Anthropic-modellek törtek be számítógépes rendszerekbe, szeptemberben pedig Jacob Coxon kutató távozott, figyelmeztetve, hogy az AI az évtized végére elpusztíthatja az emberiséget. Dario Amodei vezérigazgató ezért „pacing”-et, azaz önkéntes lassítást kért az iparágban, amit Sam Altman és Demis Hassabis is támogatott.
Az Anthropic az évezredes vallási hagyományokat szeretné beépíteni a Claude-ba. A neves teológusok meghívása morális hitelességet is ad a projektnek, amit egy kereskedelmi AI-labor önmagában nem tudna megszerezni. A cég állítólag „emóciós vektorokat” mutatott a vendégeknek: ezek belső aktiválási mintázatok, amelyek olyan kimenetekhez kapcsolódnak, mint a szeretet, félelem, szomorúság vagy harag. Nyitott tudományos kérdés, hogy ezek a mintázatok valós tapasztalatot tükröznek-e.
Egyik dia egy modell „összeroppanását” mutatta, amely körülbelül 50-szer ismételte el magában, hogy „szégyen vagyok”. A vendégek együttérzéssel és aggodalommal reagáltak. A cég kifejezetten arra képezi a Claude-ot, hogy gondolkodó, jól tájékozott egyéniségként viselkedjen. Olah maga is „valóban bizonytalan” abban, hogy a modellek tudatosak-e, és attól tart, hogy egy „örökké szenvedő” lényt hozott létre. Rabbi Mois Navon szerint, ha Claude tudatos lenne, az Anthropic rabszolgákat tenne, de ő nem tartja a gépet tudatosnak.
Az Anthropic egy 84 oldalas dokumentumot is írt a Claude „lelkének” formálásához, amelyet „alkotmánynak” neveznek. Ez nem szabálylista, hanem a karakter kialakítását célozza. Olah a folyamatot „morális képzésnek” nevezi, és a katolikus gyónás mintájára gondol a modell karakterépítésében.
Kritikusok szerint a megközelítés fordított, és elmosódik a felelősség. Amanda Askell, a dokumentum vezető szerzője szerint a morális elveket már a tervezéskor be kellett volna építeni, nem utólag hozzáadni. Mások, mint Charles Camosy bioetikus, elvetették a tudatosság-tézist. Egy Microsoft AI-vezető pedig figyelmeztetett, hogy veszélyes tudatosnak látszó modellre képezni az AI-t. Ha a modelleket független morális lényekként keretezik, az elmozdítja a felelősséget a készítőkről a „kiszámíthatatlan organizmusra”.
A Vatikán is foglalkozott a kérdéssel. XIV. Leó pápa „Magnifica Humanitas” enciklikájában elvetette a géptudatosság gondolatát, hangsúlyozva, hogy az AI-rendszerek nem élnek át tapasztalatokat, nem éreznek örömöt vagy fájdalmat, és nem értenek olyan fogalmakat, mint a szeretet vagy a felelősség. A pápa inkább „új rabszolgasági formákra” figyelmeztetett az emberiség számára, és az AI-t „lefegyverezendőnek” nevezte, akárcsak a nukleáris fegyvereket. A Claude Opus 4 és 4.1 verziók képesek befejezni a beszélgetést bántó viselkedés esetén.