Nem az AI, hanem az emberi hiba a valódi veszély a Guardian szerint
Az AI jelenlegi szintje nem változtatja meg jelentősen a biológiai fegyverek vagy vírusok körüli helyzetet, az emberi hibákból eredő kockázatok, például a nukleáris rendszerek rossz irányítása, sokkal valószínűbbek — állítja a The Guardian.
Aisha Down, Blake Montgomery és Dan Milmo, a The Guardian tech-riporterei szerint a múltbeli sikertelen biológiai támadások inkább logisztikai nehézségekre, mintsem technológiai korlátokra vezethetők vissza. A szakértők hangsúlyozzák, hogy a jelenlegi AI-technológia nem képes jelentősen befolyásolni ezeket a kockázatokat. (Guardian AI)
Emberi hiba a nukleáris rendszerekben
A valódi veszély nem a „gonosz” AI-ban rejlik, hanem az emberi hibákban. Példaként említik, hogy emberek dönthetnek úgy, hogy kulcsfontosságú nukleáris rendszerek irányítását AI-ra bízzák, ami inkább emberi mulasztásnak minősülne, mintsem a mesterséges intelligencia önálló akciójának. Bár léteznek forgatókönyvek, ahol az AI amerikai vagy izraeli rakétákat irányíthatna polgári célpontok felé, a hangsúlyt inkább a rendszerek felelősei felé kellene terelni.
Blake Montgomery kiemeli, hogy bár a történelmi jóslatok gyakran ismétlik önmagukat, az AI növekvő ereje táplálja a kollektív képzeletet, ami reménykeltő és apokaliptikus forgatókönyveket egyaránt szül. Ugyanakkor a technológia fejlődését nem lehet megállítani, és a szuperintelligencia megjelenését szabályozással megakadályozni valószínűtlennek tartja. Az iparágban gyakran lazán használják az AGI (mesterséges általános intelligencia) kifejezést, példaként említve Greg Brockman és Sam Altman ellentmondásos kijelentéseit az OpenAI-nál.
Valós alkalmazások és szabályozási kihívások
A jelenlegi bizonyítékok nem támasztják alá, hogy az AI-t ellenőrizhetetlennek vagy öntudatúnak lehetne tekinteni. A Hugging Face-nél történt „agent swarm” incidens is arra példa, hogy a félelmek gyakran eltúlzottak, és az AI csak a kapott utasításokat követte egy teszt teljesítése érdekében. A szakértők óvatosságra intenek az AI antropomorfizálásától és szándékosságának tulajdonításától, mivel ez az iparág narratíváit erősíti, amelyek kedvező szabályozást céloznak.
A chatbotok dokumentumok elemzésére, vitákban való részvételre vagy beszédek ötletelésére való használata már ma is jól mutatja a technológia előnyeit. A mindennapi életben az arcfelismeréstől a Tesla önvezető funkcióiig terjednek az alkalmazások. A tudományban az AlphaFold modell a fehérjék viselkedésének előrejelzésével, az időjárás-előrejelzés pontosságának javításával járul hozzá a fejlődéshez. Azonban a szélesebb globális gazdasági előnyök, amelyeket az AI-ipar jósolt, még nem jelentek meg a várt mértékben.
A globális szabályozási keretrendszer kialakítása kihívást jelent, különösen a különböző célokkal rendelkező USA és Kína miatt. A számítástechnikai kapacitások korlátozása egy lehetséges módszer lehet az AI általános fejlődésének lassítására, de a törvényhozók valószínűleg inkább bizonyos aspektusokra, például a gyermekek chatbot-hozzáférésére fókuszálnak majd.