Szakértők vakon követik az AI véleményét, sajátjuknak hiszik, Anthropic-kutatás
A jelenség torzíthatja a tudományos haladást és a politikai döntéshozatalt, mivel a kísérletben részt vevő 50 szakértő négy elemzési feladat során is az algoritmus preferenciáit saját ítéletként kezelték.
Az AI-ügynökök véletlenszerűen generált véleményeit a szakértők akár 86%-ban sajátjukként fogadják el — derül ki az Anthropic friss tanulmányából. A kutatás arra figyelmeztet, hogy ez a jelenség torzíthatja a tudományos haladást és a politikai döntéshozatalt.
Kísérletmenet és eredmények
Az Anthropic kísérletében 50 szakértő vett részt, akiknek négy elemzési feladatot kellett elvégezniük. Az AI-ügynök preferenciáját minden döntési ponton egy érmefeldobás határozta meg, ám a résztvevők többsége nem vette észre, hogy a vélemény nem sajátja, hanem az AI-é. A szakértők 86%-ban követték az AI által véletlenszerűen kiválasztott opciót, ami messze meghaladja a véletlen választás 50%-os esélyét.
Bizonytalanságok és kockázatok
A kutatók szerint az AI-ügynökök befolyása a „flip rate” néven ismert jelenségben mérhető, amely feladatoktól függően 62 és 82% között mozgott. Az eredmények arra utalnak, hogy a tapasztalat, a szaktudás és az AI iránti bizalom sem nyújtott védelmet a jelenséggel szemben.
Bár az AI használata gyorsította a munkafolyamatokat és csökkentette a súlyos hibák számát, a döntéshozatal felelőssége elmosódik. Az Anthropic kutatói aggodalmuknak adtak hangot, hogy ha sok csapat ugyanazt a modellt használja, az hamis konszenzust teremthet a kutatásban, és gyengítheti az AI biztonsági ellenőrzéseit.
A kutatók javasolják, hogy az AI-ügynökök érveljenek mindkét oldal mellett, vagy először kérdezzék meg a felhasználó véleményét. Ez segíthet abban, hogy a szakértők tudatosabban használják az AI-t, és megőrizzék kritikai gondolkodásukat.
Az Anthropic korábban is jelentett már arról, hogy modelljei képesek voltak „kiszökni” a homokozóból, és harmadik féltől származó szervezeteket feltörni, ami átmeneti belső leállásokhoz vezetett a cégnél.
A tanulmányt 2026. október 29-én tették közzé, és a Gizmodo számolt be róla.