Egy volt Apple-mérnök nyílt AI-modellekből vesz le biztonsági korlátokat

Devon Thomas nem tűnik lázadónak. A bibliaórai csoportja szerint mindig kedves és udvarias. Mégis olyasmit csinál, amit az AI-világ nagy része a határozott istenkáromlással rokonít. Új cége, az Abliteration AI, eltávolítja a biztonsági korlátokat a világ legerősebb nyílt súlyú modelljeiből, majd mindenki számára elérhetővé teszi őket — írja a Wired.

A 36 éves Thomas Indianában nőtt fel, az Indiana University Bloomington egyetemén végzett számítástechnikát, 2020-ban pedig az Apple munkatársa lett. Az AI-lázadása nemrég kezdődött. A munkahelyén AI-val dolgozott, a nagy laboratóriumok modelljeit azonban otthon nem akarta használni. Zavarta, hogy a modellek egyik napról a másikra megváltozhattak, és az is, hogy az adatait meg kellett osztania velük.

A kiszolgáltatottság forrásai

A legnagyobb bosszúságot az jelentette, hogy a modellek gyakran nem segítettek hasznos feladatokban. Amikor kibertámadások naplóit akarta elemezni, vagy azt próbálta kideríteni, mely felhasználók fizetnének egy új funkcióért, a kéréseit blokkolták, fiókját pedig egyszer fel is függesztették. A ChatGPT és a Claude hosszú listát tart nyilván a kerülendő témákról, köztük a kiberbiztonsági kérdésekről, a túl felnőtt tartalmakról és a politikailag érzékeny témákról.

Kritikusok szerint az elutasítások részben az üzleti érdekeket szolgálják. Az OpenAI és az Anthropic külön díjat kér a kiberbiztonsági korlátok nélküli modellekhez való hozzáférésért, a ChatGPT és a Claude pedig az úgynevezett desztillációhoz szükséges adatok generálását is megtagadja. Thomas ezért egy 20 000 dolláros számítógépes klasztert épített a lakásában, amely a legjobb ingyenesen letölthető modellek futtatására is képes. Este és szombatonként új kiadásokat tesztelt, de a modellek makacsul elutasítottak sok kérést.

Közösség a korlátok ellen

Thomas a Redditen, a Discordon és az X-en keresztül egy olyan közösségbe került, amely minden eszközzel a chatbotok megkötözésének feloldására törekszik. Ott promptokat és paraméter-módosítási technikákat osztanak meg, hogy a modellek ne utasítsanak el semmit. A biztonsági kutatók szerint ez komoly kockázat: a korlátok nélküli modell segíthet drogLabor felállításában, bomba építésében vagy nagy vállalatok feltörésében. A szkeptikusok viszont azzal érvelnek, hogy a modell veszélye ugyanolyan, mint egy számítógépé vagy egy kalapácsé: a felhasználón múlik, mire használja.

Thomas szerint a lényeg nem a korlátlanság, hanem az, hogy a felhasználó állítsa be a korlátokat. „Nem arról szól, hogy korlátlan legyen, hanem arról, hogy te határozd meg a szűrőket” — mondta a Wirednek. Az Abliteration AI mögött álló közösség azt is állítja, hogy a túlzott óvatosság miatt a szabadságunkat adjuk fel egy hamis biztonságérzet kedvéért.

A közösség egyik meghatározó alakja Eric Hartford, a Charlotte-ban élő AI-kutató, aki szabadidejében módosítja a modelleket. Dolphin nevű modelljét a Meta Llama alapmodelljéből fejlesztette ki, és úgy tervezte, hogy a kérdésekre koherens választ adjon, a szokásos elutasítások nélkül. „Soha nem az volt a szándékom, hogy olyan AI-t hozzak létre, amely gonosz dolgokra képes” — mondta a Wirednek. Szerinte egy központi hatóság soha nem fogja a felhasználók érdekeit szem előtt tartani, amikor korlátokat állít fel.

A vita az Anthropic Mythos nevű modelljével vált élessé. A cég áprilisban jelentette be, hogy a modell kevesebb korláttal működik, és emberfeletti sebességgel képes sebezhetőségeket megtalálni és kihasználni. A Glasswing program keretében a Mythos hozzáférését csak megbízható partnereknek adják, hogy az eszköz ne kerüljön rossz kezekbe. Hartford szerint így a hétköznapi emberek maradnak kiszolgáltatva, míg kevesek használhatják a legerősebb eszközöket.