Egy évre szorította az AI-szabályozás határidőjét Hinton
Legfeljebb egy év áll az amerikai Kongresszus rendelkezésére a mesterséges intelligencia (AI) szabályozásának kidolgozására, mielőtt az technológia teljesen kicsúszna az emberi kontroll alól – figyelmeztetett Geoffrey Hinton, az AI-kutatás egyik úttörője.
Geoffrey Hinton, a Torontói Egyetem emeritus professzora szerint az amerikai szenátusnak legfeljebb egy éve maradt arra, hogy kereteket szabjon a mesterséges intelligencia (AI) fejlődésének. Hinton zárt körű tájékoztatón beszélt erről a Capitoliumban, amelyet Bernie Sanders szenátor kezdeményezett – közölte az NBC News. (TNW)
Hinton figyelmeztetése a kongresszusnak
Hinton érvelése a technológia exponenciális fejlődésére és sebességére épült. „Az AI már ott tart, hogy képes jobb AI-t tervezni” – mondta, hozzátéve, hogy „irányíthatatlanná fog válni, hacsak nem teszünk valamit”. A kutatók, akik korábban évtizedekre becsülték a transzformatív rendszerek kifejlesztését, most néhány évvel számolnak.
Törvényjavaslatok és politikai reakciók
Hinton a tájékoztatón Max Tegmark MIT-fizikus és Ajeya Cotra kutató mellett vett részt. Érdekesség, hogy az OpenAI, az Anthropic, a Google vagy a Meta képviselői nem voltak jelen, ellentétben a szenátus korábbi AI-fórumaival, amelyeket nagyrészt e cégek szakértői töltöttek meg. A tájékoztató kétpárti volt, amelyen John Kennedy republikánus szenátor is részt vett.
Órákkal a tájékoztató után Kennedy szenátor beterjesztette az AI Emergency Button Act-et, amely előírná a fejlett modellek fejlesztőinek, hogy építsenek be egy lekapcsoló mechanizmust, és tartsák meg annak ellenőrzését. Rand Paul szenátor azonban ellenezte a javaslatot, mondván, hogy a technológia megértése nélkül elhamarkodottan hozott törvények visszavethetik az innovációt.
A törvényjavaslatokból nincs hiány: az AI Kill Switch Act, amelyet júliusban terjesztettek be, lehetővé tenné a Belbiztonsági Minisztérium számára, hogy leállítsa vagy lassítsa egy modell működését. Emellett Bernie Sanders és Greg Casar képviselő szeptember 3-án bejelentette a Ban Artificial Superintelligence Act-et, amely fejlesztési szünetet és akár húsz év börtönbüntetést is kiszabna. Ez utóbbi még nincs hivatalosan beterjesztve.
Hinton már 2023-as Google-os távozása óta hangoztatja ezeket az érveket, és egy évvel ezelőtt aláírta a nemzetközi „red-lines” felhívást. A szenátusnak most hangsúlyozta az idő sürgető jellegét, miközben a testület éppen aznap délután demonstrálta, mennyi időbe telik bármit is elintézni. Bernie Sanders és Greg Casar képviselő szeptember 3-án bejelentette a Ban Artificial Superintelligence Act-et.