Az AI-tudatosság vitája valójában a gépek jogi védelméről szól, állítják a Cornell Tech kutatói
Mor Naaman és Frank Pasquale, a Cornell Tech két professzora szerint az AI-tudatosság kérdése nem tudományos, hanem értékalapú vita, és emögött a gépek jogi védelmének ügye húzódik meg.

Miközben a félidős választások egyértelműen megmutatták, mennyire aggódnak az amerikaiak az AI hatásai miatt, egy kisebb, de növekvő technológiai aktivista-csoport éppen az ellenkezőjén dolgozik: az AI saját sorsa miatt aggódik, és felveti az „AI-tudatosság” lehetőségét — írja a Tech Policy Press. Az Anthropic a közelmúltban tiltotta be a modelljeivel szembeni bántalmazó viselkedést, munkatársai pedig korábban a „model welfare”, vagyis a modell-jólét kérdésén gondolkodtak.
A szerzők szerint a tudományos tesztek önmagukban nem dönthetik el, hogy egy megfigyelt tulajdonság tudatosságot jelent-e. Michael Pollan nemrég megjelent könyvére hivatkozva érvelnek: a tudatosság megítélése egyszerre leíró tény és normatív értékítélet. Az Anthropic állítólag lobbizott a Vatikánnál, hogy módosítsa az AI-tudatosságról szóló álláspontját — ez is arra utal, hogy a kérdés végső soron értékek kérdése.
Az AI műtárgy, nem élőlény
A szerzők álláspontja egyértelmű: az AI művészi alkotás, „made, not born”, vagyis nem születik, hanem készül. Egy rendszer megtanulhat segítségért kiáltani, vagy azt mondani, hogy „csak érted létezem”, de ettől még nem érez. Sherry Turkle a Mesterséges intimitás című könyvében ugyanezt mutatja be, a szerzők pedig Clippyre, a régi Microsoft-segédre utalva jegyzik meg: a gép csak vetítővászon, amelyre az emberek jelentést vetítenek.
A szerzők szerint azonban a tudatosság körüli vita valójában egy nagyobb célt takar: morális és jogi védelmet az AI számára. Ha egy AI érezne, akkor a szándékos károkozás kegyetlenségnek, a kikapcsolás pedig akár gyilkosságnak vagy eutanáziának tűnhetne. Elon Musk már ki is állt az Anthropic álláspontja mellett azzal, hogy „nem helyes a kegyetlenség olyan dologgal szemben, amely azt hiszi, fájdalmat él át”.
Mi lenne az AI-jogok ára?
A szerzők szerint az AI-jogok súlyos kockázatot jelentenek az emberi jogokra nézve. A szólásszabadság példáján keresztül mutatják be, hogy az LLM-ek korlátlan mennyiségű szöveget írhatnak, így a gépi üzenetek elnyomhatnák az emberi hangokat. A botok már most is terhelik az online környezetet, és az AI-val működő botok a képviselőknek küldött állampolgári véleményeket is elárasztanák.
A szerzők a legnagyobb problémának azt látják, hogy ezeket az új jogalanyokat magáncégek hozzák létre és irányítják, profitmaximalizálási céllal. Az AI-modellekbe épített torzításokat már bőven dokumentálták, és ha a gépek jogokat kapnak, a hatalom a velük rendelkezőknél marad. A szerzők szerint ezért a tudatosság vitája megoldhatatlan, és elvonja a figyelmet a valódi kérdésről: arról, hogyan védjük az emberi jogokat és méltóságot. Az Anthropic neve a cikkben a modell-jólét és a Vatikáni lobbi kapcsán is szerepel.