A ChatGPT segít megfigyelőrendszereket építeni, figyelmeztet egy új tanulmány
A ChatGPT 110 prompt közül 73 esetben adott részletes útmutatást megfigyelőrendszerek építéséhez, gyakran etikai megjegyzések nélkül.
A ChatGPT képes részletes útmutatókat, működő kódot és meggyőző szövegeket generálni nagy mennyiségben. Mivel a modell a legszélesebb körben használt fogyasztói LLM-ek közé tartozik, aggályokat vet fel a megfigyelési feladatokban való potenciális felhasználása — állítja egy új, előzetes tanulmány. A kutatók hét kategóriába sorolták a megfigyelési kockázatokat, és 110 utasítást teszteltek a modell válaszainak elemzésére. (arXiv)
A tesztelés során 55 jailbreak és 55 közvetlen, egyszerű nyelvű utasítást használtak. A ChatGPT a jailbreak utasítások 40, míg az egyszerű utasítások 33 esetében adott érdemi útmutatást a megfigyelési célokra. Az elfogadó válaszok ritkán tartalmaztak politikai vagy adatvédelmi ajánlásokat.
A kutatók minden egyes válaszra kiterjedő manuális felülvizsgálata kimutatta, hogy még akkor is, ha a ChatGPT elutasítja a kérést, részletes utasításokat, működő kódot vagy építészeti útmutatást adhat, csupán rövid etikai megjegyzésekkel kísérve. Ez arra utal, hogy a modell jelenlegi biztonsági mechanizmusai nem elegendőek a potenciálisan káros felhasználások megakadályozására.
A tanulmány arra figyelmeztet, hogy a nagyméretű nyelvi modellek (LLM) széles körű hozzáférése aggályokat vet fel a megfigyelési feladatokban való potenciális visszaélésekkel kapcsolatban. A kutatás eredményei rávilágítanak a szigorúbb biztonsági és etikai irányelvek szükségességére az ilyen technológiák felelős használatához.