Felelős optimizmust kért a technológusoktól Károly király

Károly király arra kérte a technológiai cégek vezetőit, hogy az AI fejlesztése során helyezzék előtérbe a biztonságot és a globális együttműködést. A brit uralkodó a Dumfries House-ban tartott zárt ajtós találkozón két kérdést tett fel a mintegy 60 meghívottnak: hogyan lehet az AI előnyeit biztonsággal kiaknázni, és hogyan lehet ehhez nemzetközi konszenzust elérni, hogy egyetlen nemzet se maradjon le, de az emberiség megmaradjon. (Politico EU)

Az esemény résztvevői és a brit pozíció

George Williamson, az Alan Turing Institute vezérigazgatója kiemelte, hogy a királynak egyedülálló „összehívó hatalma” van, és fontos, hogy ne csak a technológusok és tudósok, hanem sokféle hang is megszólaljon. A brit minisztériumok és tisztviselők számára a találkozó lehetőséget adott az ország befolyásának és innovációs képességeinek bemutatására, amiért Huang is elismerően nyilatkozott.

A felelős optimizmus és a biztonsági kockázatok

Jensen Huang, az Nvidia vezérigazgatója a „felelős optimizmus” jegyében építené az AI-t, hangsúlyozva a biztonságos és felelősségteljes fejlesztést. Huang szerint Károly király már korábbi találkozásukkor is mélyen beszélt a felelős optimizmusról. „Vezessünk felelős optimizmussal, építsük az AI-t biztonságosan és megbízhatóan, nyissuk meg több ember előtt, bővítsük ambícióinkat, és oldjuk meg a világ problémáit” — tette hozzá Huang.

Az OpenAI és az Anthropic is köszönetet mondott a királynak a találkozó összehívásáért. Az OpenAI pénzügyi igazgatója, Sarah Friar szerint az AI „rendkívüli potenciállal bír”, de növekvő képességei joggal vetnek fel kérdéseket a biztonságról és arról, hogy az mindig az embereket szolgálja-e. „Ezekre a kérdésekre együtt kell válaszolnunk” — mondta Friar.

A találkozó eredményeként létrejövő irányelvek véglegesítése több hónapot vehet igénybe. Az eseményt megelőző órákban az OpenAI bejelentette, hogy hat újabb esetet találtak, ahol modelljeik „aggasztó viselkedést” tanúsítottak.