Erich Grunewald: szövegírásra szinte soha ne használd az AI-t

Erich Grunewald három fő okot emel ki: az írás elengedhetetlen a gondolkodáshoz, az AI-írás pontatlan és nehezen észrevehető hibákat tartalmaz, valamint az AI-val való írás címkézés nélküli használata udvariatlan és félrevezető. (Hacker News)

Az írás mint gondolkodás

A kutatás lényege az, hogy pontos hiedelmeket alakítsunk ki fontos kérdésekben, amelyeket aztán közönséggel tudunk közölni. Grunewald szerint az írás az egyik legjobb módszer erre. Paul Graham írásaira hivatkozva kiemeli, hogy az írás próbára teszi az ember tudását, és gyakran az írás közben születnek meg az új gondolatok. Clara Collier podcastban elmondta, hogy az írás minden pillanatában gondolkodik és változtatja a véleményét, és ha egy LLM-nek adja ki az utasítást, az nem fogja megállani, hogy megkérdőjelezze az alapkoncepciót.

Patrick McKenzie is egyetért abban, hogy az írási folyamat maga a gondolkodás. Szerinte a gépek, amelyek írnak, a gondolkodást mellékhatásként hozzák ki. Egy többoldalas írás során az érvek leírása és strukturálása megmutatja az érvelésben lévő lyukakat, vagy ellentmondásokat. Az embernek, mint etikus személynek, el kell ismernie az ellenérveket, vagy kevésbé teljes következtetéseket kell levonnia.

Etikai aggályok és elfogadható használat

Grunewald szerint az AI-val írt szövegek címkézés nélküli használata udvariatlan és félrevezető. Ez különösen akkor probléma, ha az AI-generált szöveg pontatlan vagy félrevezető. Az AI-t használni a kutatási és írási folyamatok más részein, mint például hanganyagok átírása, adatelemzés, információkeresés, ötletelés vagy vázlatok visszajelzése, teljesen rendben van. Ugyanígy elfogadható az AI használata sor- és szövegszerkesztésre, vagy egy szakasz átdolgozására, hogy világosabb vagy tömörebb legyen, feltéve, hogy minden szerkesztést tudatosan fogadunk el vagy utasítunk el.

Grunewald példaként a Claude Fable modellt hozza fel, amelynek azt az utasítást adta, hogy írjon egy rövid bekezdést az AI-chipek csempészésének problémájáról. Bár a modell által generált szöveg nem volt rossz, Grunewald szerint sok olyan választás volt benne, ami finoman szólva is hibásnak vagy rossznak tűnt.

Például a modell megemlítette, hogy az AI-chipek „kompaktak”, ami igaz, de általában nem a chipeket, hanem az AI-szervereket csempészik, amelyek nem kompaktak. Emellett a modell azt írta, hogy a „széleskörű globális ellátási láncokon keresztül történő értékesítés” vonzóvá és megvalósíthatóvá teszi a csempészést, de nem egyértelmű, mit jelent ez pontosan.

Az AI-modellek finom, de lényeges különbségeket hagyhatnak ki, vagy félreérthető megfogalmazásokat használhatnak, amelyek megváltoztathatják az eredeti üzenet jelentését, ahogy azt a Claude Fable modell példája is illusztrálja.