Rich Hickey szerint az LLM-ek automatizálásnak számítanak

Szerszám vagy automatizálás?

Rich Hickey, az yyhh.org blog 2026. október 11-i cikkében amellett érvel, hogy az LLM-ek automatizálásnak számítanak, nem pedig szerszámoknak, mivel nem lehet őket közvetlenül irányítani. Az elemző szerint ez a megközelítés téves, mert az LLM-ek használata készséget igényel, akárcsak más szerszámoké.

A szerző szerint egy szerszám akkor is szerszám marad, ha nehéz irányítani vagy könnyű rosszul használni. A szerszámok képesek rossz ítélőképességet éppúgy felerősíteni, mint a jót. Hasznosságuk az operátor képességétől függ, hogy képes-e irányítani, értelmezni a visszajelzéseket, felismerni a hibákat és korrigálni azokat. Ezek a követelmények az LLM-ekre is érvényesek.

Antropomorfizmus kockázatai

Hickey megkülönböztetése a szerszámok és az automatizálás között hamis felosztást teremt. Az automatizálás lehet egy szerszám funkciója is. Egy fordítóprogram jelentős munkát végez anélkül, hogy a programozó folyamatosan irányítaná az egyes műveleteket. Egy táblázatkezelő automatikusan újraszámítja az eredményeket anélkül, hogy valaki manuálisan végezné el minden egyes számítást. Ezeket a rendszereket továbbra is mi irányítjuk bemenetek specifikálásával, eredmények vizsgálatával és a következő lépés eldöntésével.

Az LLM-ek használatának szándék, visszajelzés, irányítás és szakértelem hiányára vonatkozó állítás különösen nehezen védhető. Egy programozó megkérdezheti az LLM-et, hogy magyarázza el egy ismeretlen kódot, megkérdőjelezheti a magyarázatot, megvizsgálhatja a forrást, tesztelhet egy javasolt változtatást, elutasíthatja azt, és finomíthatja a kérést. Ez egy ember által irányított visszacsatolási hurok, amely egy célt követ. Ennek jól végzése megköveteli, hogy tudjuk, mit kérdezzünk, milyen bizonyítékok számítanak, és mikor téves a válasz. A szakértelem hasznosabbá teheti a szerszámot.

A leginkább aggasztó az AI-ipar antropomorf szókincsének használata: „szabadjára enged”, „megszökik a karanténból”, „összeesküszik”. Ezeknek a kifejezéseknek az ismételgetése kockáztatja annak a keretnek az elfogadását, amely miatt ezek a rendszerek független lényeknek tűnnek. A szoftver produkálhat váratlan kimeneteket, nem követhet utasításokat, vagy kárt okozhat, ha következményes műveletekhez fér hozzá. Ezek valódi mérnöki problémák. Ezeket „összeesküvésnek” nevezni az emberi motivációk sugallatát adja hozzá anélkül, hogy bármit is bizonyítana.

Nem állítanám, hogy egy LLM mindig pontosan azt teszi, amit egy ember mond neki. Nyilvánvalóan képes hibázni. De a tökéletes engedelmesség hiánya nem teszi azzá, hogy ne lenne szerszám, ahogy a sikeres használat sem bizonyítja, hogy kezelője feladta ítélőképességét.

A hasznos megkülönböztetés az, hogy egy hangszerrel készséggel bánunk, vagy feladatot delegálunk megfelelő megértés vagy felügyelet nélkül. Ez a megkülönböztetés az AI-ra is vonatkozik, és valami praktikusabbat ad nekünk, mint kijelenteni, hogy egy szoftverosztály nem lehet szerszám. A Hacker News 322 pontot és 269 kommentet generált a 2026. október 11-i bejegyzésről.