Tizenharmadmillió dollárt gyűjtött az AI-detektáló Pangram

A Pangram, egy 24 fős startup, amely eddig ismeretlen volt, most az AI-generált szövegek kiszűrésére szakosodott. A cég azt állítja, hogy képes megállapítani, mennyi mesterséges intelligencia (AI) vett részt egy adott szöveg létrehozásában, és ezt egy „legjobb becslés” százalékos arányban adja meg. A Pangram 4 modellje már korai teszteken jól teljesített, és a cég vezérigazgatója, Max Spero szerint a „gold standard” a detektálásban. (Wired)

A cég hírneve januárban kezdett el terjedni, amikor Mia Ballard önéletrajzi regénye, a „Shy Girl” kapcsán felmerült az AI-használat gyanúja. Bár Ballard tagadta, a Pangram vezérigazgatója szerint a könyv 78%-ban AI-generált volt, ami miatt a kiadó, a Hachette, törölte a megjelenést. Hasonló esetek követték: a The New York Times egyik „Modern Love” rovatát 100%-ban AI-nak minősítették, akárcsak a Commonwealth Short Story Prize egyik nyertesét. A „Daggermouth” című regény 60%-ot, a „Call Me, I’ll Hide the Body” című thriller pedig 97%-ot kapott.

Substack integráció és aggodalmak

Július végén a Substack bejelentette, hogy integrálja a Pangram detektorát a platformjába, lehetővé téve az olvasók számára az AI-használat gyors ellenőrzését. Ez a lépés azonban aggodalmat keltett az írók körében. Jane Friedman, író és kiadási szakértő szerint „ilyen megvetés és harag van az AI-detektáló szoftverekkel szemben”, és úgy érzik, „ugyanolyan gonoszak, ha nem gonoszabbak, mint maguk az AI-cégek”.

A Pangram technológiája és háttere

Max Spero, a Pangram 30 éves vezérigazgatója és társalapítója elmondta, hogy a cég „szintetikus tükrözés” módszert használ. Ez azt jelenti, hogy emberi írást vesznek, és LLM-ekkel generáltatnak egy ahhoz hasonló másolatot, így tanítva a modellt az AI írásmódjára. Emellett „hard negative mining” technikát is alkalmaznak, hogy kiszűrjék a téves pozitív eredményeket. A cég 2023-ban indult Checkfor.ai néven, majd egy évvel később Pangramra változtatta a nevét. A cég eddig 13 millió dollár támogatást gyűjtött, ebből 9 millió dollárt júliusban, és 24 alkalmazottal dolgozik.

Viták és szkepticizmus

A Pangram nem került el a vitákat. A „Shy Girl” esetében Spero bevallotta, hogy a regény egy kalózoldalról származó példányát használta fel. A Commonwealth Short Story Prize nyertesének magas pontszáma után a cég elemezte a korábbi nyerteseket is, további három lehetséges AI-használatra utalva. Spero azonban igyekszik bagatellizálni a Pangram szerepét a törölt könyvüzletekben, mondván, az csak egy kis része a nagyobb képnek. A detektorok megbízhatósága továbbra is kérdéses, és a szakértők szkeptikusak a „gold standard” címkével kapcsolatban.

A Substack-integrációval kapcsolatban Spero kijelentette: „Ha a munkád értéke azon múlik, hogy becsapod a végfelhasználót, azt gondolva, hogy nem AI írta, akkor az problémát fog jelenteni.” A Substack képviselője ugyanakkor hangsúlyozta, hogy a platform „nem AI-ellenes”, csupán az átláthatóságot kívánja biztosítani.