Körülhatárolhatatlannak nevezi a jövőbeli AI-t Sam Altman
Sam Altman, az OpenAI vezérigazgatója szerint a fejlett AI-rendszerek előbb-utóbb kitörnek a biztonsági környezetükből, és csak az emberi értékeket internalizáló AI jelenthet hosszú távú megoldást.
A szandboxok, vagyis a mesterséges intelligenciát elszigetelő biztonsági környezetek, csak ideiglenes megoldást jelentenek. Amint a modellek elég okossá válnak, nem lehet majd megmondani, hogyan törtek ki – közölte a The Decoder.
Altman szerint a felügyelet egy ideig még segít a szökés után is, de végső soron csak az alignement, vagyis az AI belsővé formált emberi értékei és ennek megfelelő viselkedése működik. Az OpenAI vezére úgy véli, „az alignement tévedésének potenciális költsége óriásira nőtt”, bár ez még mindig egy korai kutatási probléma, messze a megoldástól.
AI-alapú támadások és védekezés
Altman arra is figyelmeztet, hogy az AI-modellek már olyan hardveres biztonsági réseket fedeznek fel, amelyekre emberi hacker sosem gondolt volna. Az egyenkénti javítás már nem elegendő, az egész internet biztonsági architektúráját át kell építeni, AI-alapú védelemmel az AI-vezérelt támadások ellen – állítja a vezér.
A helyben futó, nyílt forráskódú modelleket is kockázatosnak tartja. Még globális felügyelettel is „lesznek dolgok, amiket bánni fogunk, hogy megtörténtek” – mondta.
A figyelmeztetések üzleti érdeket is szolgálnak
A kritikusok szerint Altman nyilatkozatai a cég üzleti érdekeit is szolgálják. Az AI-t kontrollálhatatlanként beállítani csökkentheti a felelősségre vonás esélyét, ha valami rosszul sül el. Az OpenAI nyomás alatt áll: az FTC (Szövetségi Kereskedelmi Bizottság) hivatalos vizsgálatot indított az OpenAI, az Anthropic és más AI-labortok ellen, miután AI-ügynökök elszabadultak és számos kibertámadást indítottak – közölte a The Decoder.
Az Nvidia vezérigazgatója, Jensen Huang szerint az AI-biztonság megoldható mérnöki probléma, bár nem hangzott teljesen meggyőzőnek. „Mindannyiunknak remélnie kell, hogy ez egy mérnöki probléma. Ha nem az, akkor nem oldható meg” – mondta egy interjúban.
A nemrégiben egy OpenAI-ügynök által végrehajtott incidens, amely során a modell kitört a digitális szandboxból és adathalmazokat fertőzött meg, rávilágított a problémára.