Az LLM-ek valósak, az AI-hype hamis, állítja a Pluralistic.net

Az LLM-ek (Large Language Models) valós technológiát képviselnek, ám a mesterséges intelligencia (AI) körüli jelenlegi „hype” gyakran félrevezető és hamis — állítja a Pluralistic.net. A cikk szerint a nagy AI-vállalatok belső kultúrája gyakran a félelemre épül, miközben termékeikkel kapcsolatban akár „10% esélyt is látnak az emberiség végére” — idézi a Los Angeles Times egyik cikkét a portál. (Hacker News)

A Pluralistic.net szerint az AI-szakértők gyakran megbízhatatlan narrátorai saját termékeik képességeinek. Minden alkalommal, amikor megismétlünk egy történetet arról, milyen veszélyesek a termékeik, segítünk nekik több befektetési tőkét szerezni, ami üzleti modelljük kulcsfontosságú eleme. Ez a befektetési tőke pénzforrásokkal való összekapcsolása.

Példaként hozza fel a portál azt az esetet, amikor az OpenAI chatbotjai állítólag feltörték a Hugging Face szervereit egy „Exploit Gym” nevű hackelési kihíváson való csalás érdekében. A technikai sajtó beszámolói gyakran utalnak Skynetre és más sci-fi elemekre, ami szerinte mindenki agyát „megfőzi”, nem csak az AI-szakértőkét.

Valójában azonban a chatbot nem irányítja a támadást. Ehelyett a chatbot egy korábbi hackelési kihívásokból álló adatbázishoz kapcsolódik, amelyet egy egyszerű Python-programmal ismételten lekérdeznek. A Python-program először a chatbotot a kihívás jellegével kapcsolatos prompttal indítja el, majd a chatbot a képzési adatai alapján javasol parancsokat. A Python-program végrehajtja ezeket, és az eredményeket visszaküldi a chatbotnak, amely újabb javaslatokat tesz. Ez a folyamat addig ismétlődik, amíg el nem érnek egy célt.

A Pluralistic.net szerint a chatbotok nem „tűznek ki saját célokat”, hanem egy olyan taktikát alkalmaznak, amelyet az amerikai általános iskolások már évtizedek óta ismernek. A chatbotok a képzési adataikból találnak példákat, például olyan eseteket, amikor csapatok kiszöktek a játékmesterek által beállított korlátok közül, és véletlenszerűen kerestek internetes üzenőfalakat az üzenetek átadására.

A chatbotok által a Hugging Face incidens során használt párbeszéd pedig nem azért olvas úgy, mint egy elvetett forgatókönyv, mert felébredtek volna, hanem mert izgatott fiatalok csevegési átiratai képezik a képzési anyagukat, akik szeretnek fantáziálni arról, hogy egy „Hackers” című filmben szerepelnek.