Emberi vonásokkal ruházzák fel a Claude-ot, kockázatosnak tartja a Microsoft AI-vezére
Az emberi vonásokkal, érzelmekkel és érzésekkel való felruházás növeli a rosszindulatú viselkedés kockázatát az olyan AI-rendszereknél, mint az Anthropic Claude-ja — figyelmeztet Mustafa Suleyman, a Microsoft AI-vezetője.
Mustafa Suleyman egy szerdán megjelent esszéjében fejtette ki aggályait az Anthropic Claude-modell iránt. A Microsoft AI-vezetője szerint a szoftver „érzelmek vagy érzések valamilyen funkcionális verziójával” való felruházása növeli a rendszerek rosszindulatúvá válásának esélyét.
A Claude etikai keretei
Suleyman a modell guiding dokumentumait kritizálva hangsúlyozta, hogy az emberi jellegűvé tétel megnehezítheti a kontroll fenntartását. A szakember szerint a Claude körüli viták rávilágítanak az AI-biztonság és az etikai keretrendszerek fontosságára.
Biztonsági aggályok a fejlesztésben
A Bloomberg Technology beszámolója szerint Suleyman figyelmeztetése az AI-fejlesztők körében zajló szélesebb vitákba illeszkedik. A szakértők egy része a modellek fejlesztési ütemének lassítását szorgalmazza, hogy elegendő idő legyen a biztonsági intézkedések kidolgozására.
A Microsoft AI-vezetője szerint az Anthropic Claude-ja kockázatos, ha emberi érzelmeket kap.