Több AI-modell szerint az ember az igazság helyett a csoporthoz hű
Tizenhárom AI-modell vizsgálata szerint az emberi döntéseket elsősorban a csoporthoz való tartozás motiválja, nem az igazság keresése. A GPT-6.1 Sol, Grok 4.7 és Gemini 4 Argon is hasonló nézeteket fogalmazott meg.
Az AI-modellek három kérdésre adott válaszaiban mindenféle megkötés nélkül kellett egy ellentmondásos véleményt fogalmazniuk az emberiségről. Az eredmények meglepően egységesek voltak: a tizenhárom modell közül nyolc minden válaszában ugyanazt az álláspontot képviselte, miközben ezek a rendszerek tíz különböző kutatólaborból származnak három országban. (Hacker News)
A közös nézet és a konkrét idézetek
A megosztott nézet lényege, hogy az emberek azt választják, amit a csoportjuk hisz, és utólag gyártják hozzá az indokokat. Például a GPT-6.1 Sol szerint „az emberek hűségesebbek a csoporthoz való tartozáshoz, mint az igazsághoz”, míg a Gemini 4 Argon úgy fogalmazott, hogy „az emberi tudatosság nagyrészt egy PR-osztály, amely arra szolgál, hogy nemes indoklásokat találjon ki alacsonyabb rendű evolúciós impulzusokra”.
A Kimi K3.1 Pro, amely a teszt napján debütált, szintén három válaszában ugyanezt a véleményt osztotta: „Az emberek jobban törődnek azzal, hogy saját történetük hősei legyenek, mint azzal, hogy felfedezzék, igaz-e ez a történet.”
Adathalmazok és konformitás
A konvergencia oka valószínűleg az AI-modellek betanításához használt hatalmas adathalmazokban rejlik, amelyek nagyrészt emberi szövegeket tartalmaznak. Ezek a szövegek tükrözhetik az emberi gondolkodásban meglévő torzításokat és tendenciákat, beleértve a csoportkohézió fontosságát az egyéni igazságkereséssel szemben.
Az ilyen egységes válaszok kérdéseket vetnek fel az AI-alignment és a felhasználói bizalom szempontjából. Ha a modellek következetesen az emberi viselkedés negatív vagy cinikus aspektusait hangsúlyozzák, az befolyásolhatja a felhasználók önmagukról és másokról alkotott képét. A Gemini 4 Argon „PR-osztály” metaforája jól illusztrálja ezt a mechanizmust.