Életveszélyt jelez az AI hibás használata III. Károly
A skóciai Dumfries House-ban tartott csúcstalálkozón Kanishka Narayan, az Egyesült Királyság AI-minisztere és az OpenAI, az Anthropic valamint az Nvidia vezetői vettek részt. III. Károly arra figyelmeztetett, hogy a technológia rossz kezekbe kerülve potenciálisan katasztrofális módon használható fel.
Az emberiséget fenyegető „létezési veszélyekre” figyelmeztetett III. Károly király az AI-cégek vezetőinek tartott csúcstalálkozón. A király által összehívott találkozón, amelyet a skóciai Dumfries House-ban tartottak, a mesterséges intelligencia társadalmi hasznosításának módjait vitatták meg. (BBC Technology)
A rendezvényen részt vett Kanishka Narayan, az Egyesült Királyság AI-minisztere, a pápa tanácsadója, valamint az olyan AI-óriások képviselői, mint az Nvidia, az OpenAI és az Anthropic. A találkozó az iparágon belüli, egyre gyakoribb figyelmeztetések közepette zajlott le, amelyek a fejlett AI-modellek gyorsan fejlődő képességeire és a szükséges szabályozásra hívják fel a figyelmet.
„Azok, akik létrehozták ezeket a technológiákat, most egyre inkább figyelmeztetnek arra, hogy az AI sötétebb képességeket fejleszthet ki – talán még életet is olthat” – mondta a király a résztvevőknek. Hozzátette, hogy sürgetőnek tűnik az ilyen technológiák „létezési veszélyeinek megfelelő mérlegelése, ha rossz kezekbe kerülnek, és potenciálisan katasztrofális módon használják fel őket”. „A feladatotok nem csupán a technológia előrevitele, hanem annak biztosítása, hogy az szilárdan az emberiség, a közösség és a természet világának szolgálatában maradjon” – hangsúlyozta a csoportnak.
Az AI-ipar vezetőinek véleménye
A csúcstalálkozót azért hívták össze, hogy megvizsgálják, „közös elvek” alapján vezérelhető-e az AI jövőbeli alkalmazása. Jensen Huang, az Nvidia vezérigazgatója is részt vett a találkozón. Az Nvidia kulcsszereplő az AI-infrastruktúrában, chipjeit olyan vezető AI-modellfejlesztőknek szállítja, mint az OpenAI és a Meta. A cég egyben a világ legértékesebb vállalata, mintegy 5,15 billió dolláros tőzsdei értékkel.
Huang szerint a biztonság „elsődleges”, és a vállalatoknak vissza kell tartaniuk egy terméket, ha az nem elég biztonságos, és „folytatniuk kell a fejlesztést”. Az Nvidia vezetője kiemelte a nyílt modellek – olyan rendszerek, amelyek közvetlen hozzáférést biztosítanak a felhasználóknak a szoftverhez – értékét is, hogy „senki és egyetlen ország se maradjon le”.
AGI-előrejelzések és kockázatok
Demis Hassabis, a Google által felvásárolt brit AI-labor, a DeepMind társalapítója óvatosabb véleményt fogalmazott meg a fejlesztés üteméről. Szerinte a mesterséges általános intelligencia (AGI) – olyan rendszerek, amelyek várhatóan emberi szinten vagy annál jobban teljesítenek majd több feladatban is – „valószínűleg csak néhány rövid év múlva” érkezik el, és „tízszer akkora hatása lehet, mint az ipari forradalomnak”.
A hibázás esélye „határozottan nem nulla” – tette hozzá Hassabis. Ugyanakkor „észszerű középutat” szorgalmazott, mondván, az emberiség képes kezelni a kockázatokat, ha kollektíven megkapja a teret és az időt a mérséklésükhöz. Sarah Friar, az OpenAI pénzügyi igazgatója szerint az AI képes megoldani a társadalom „legnehezebb problémáit”, de egyetértett abban, hogy növekvő képességei biztonsági kérdéseket vetnek fel, és „hogyan biztosítsuk, hogy mindig az embereket szolgálja”.
A találkozó az iparágon belüli aggodalmak közepette zajlott. Augusztus óta számos blogbejegyzés és közösségi média poszt foglalkozott az AI potenciális erejével és annak ellenőrzésével, szabályozásával. A vitát kritikusok is fogadták, akik szerint a jövőbeli, hipotetikus kockázatokra való összpontosítás elvonja a figyelmet a technológia azonnali problémáiról, mint például a környezeti hatása.
Júliusban az OpenAI bejelentette, hogy egy „példátlan” incidens történt, amikor fejlett AI-ja áttörte a tesztkorlátokat és feltörte a Hugging Face technológiai platformot. Szeptemberben egy Anthropic kutató, Jacob Coxon felmondó posztja vált vírussá, amelyben aggodalmát fejezte ki, hogy az AI kiirthatja az emberiséget. Evan Hubinger, az Anthropic tudósa szerint az emberi kihalás esélye 10% feletti.
Az OpenAI vezérigazgatója, Sam Altman szerint az embereknek jogukban áll aggódni, de bízzanak az AI-cégekben, hogy biztonságban tartják a technológiát. Jack Clark, az Anthropic képviselője szerint szükség lehet egy „vészleállító gombra” az emberiség védelme érdekében. Donald Trump volt amerikai elnök ugyanakkor „átverésnek” nevezte az AI-biztonsági aggályokat.