Az Anthropic titokban módosítja a Claude szavazását – a minőség nem számít
Az Anthropic titokban, a szavak véletlenszerű kiválasztásának módosításával vízjelezi a Claude által generált szövegeket. A cég szerint ez nem befolyásolja az írás minőségét, de kritikusok szerint ez figyelmen kívül hagyja az írás árnyalatait.
Az Anthropic bejelentette, hogy vízjellel látja el a Claude által generált szövegeket, jelezve, hogy azok mesterséges intelligencia által készültek. A technológia részleteit nem közölték, de most kiderült, hogy a módszer a szavak kiválasztásának véletlenszerűségét módosítja, így a vízjel csak az Anthropic számára lesz kimutatható. (404 Media)
Az Európai Unió új AI-szabályozásaihoz kapcsolódóan vezeti be a cég ezt a funkciót. Bár az AI-generált tartalom felismerésének lehetősége hasznos lehet, a gondatlan bejelentés rávilágít az LLM-ek írásra való használatának szélesebb problémájára: ezek a modellek valójában nem „írnak”, hanem a betanítási adataikat utánozzák.
A szinonimák cseréjének nyelvi hatása
A cég szerint a vízjelezés nem befolyásolja a szöveg minőségét, kreativitását vagy olvashatóságát. Az Anthropic blogbejegyzése szerint a „szürke” és a „borús” szavak például lényegében felcserélhetőek, és a választásuk nem befolyásolja az általános jelentést. Ez a megközelítés azonban aggodalmat kelt az írás craftjával és a szavak finomabb árnyalataival kapcsolatban.
A kritikusok, köztük Jeff Jarvis újságíró-akadémikus szerint az Anthropic ezzel azt üzeni, hogy a szavak felcserélhetőek, a nyelv véletlenszerű, és a választás jelentés nélküli. Ez a megközelítés figyelmen kívül hagyja, hogy az emberi írók miért választanak tudatosan bizonyos szinonimákat, és hogyan járulnak hozzá ezek az árnyalatok a szöveg egyedi hangvételéhez és hatásához.
A SynthID technológia és a tesztelési körülmények
A módszer alapjául a Google kutatóinak „SynthID” nevű vízjelező eszköze szolgált. Az Anthropic állítja, hogy belső tesztjeik nem mutattak ki hatást a tartalomra, kreativitásra vagy olvashatóságra. A minőségértékelést azonban olyan személyek végezték, akik maguk is AI-eszközöket használnak az íráshoz, vagy maguk is adattudósok, nem pedig azok, akik az olvasás vagy írás minőségét értékelik.
Az Anthropic a Claude modelljében alkalmazott vízjelezési technológia tesztelését saját adattudósai és AI-eszköz-használói körében végezte.