AI-óriások tanúvallomást tesznek az NYC Tanács előtt az AI-kockázatokról
Az Anthropic, az OpenAI, a Google és a Meta vezetői tanúvallomást tesznek a New York-i Városi Tanács előtt az AI-kockázatokról és a lehetséges szabályozási megoldásokról.
Jacob Coxon, az Anthropic korábbi bejelentője szerint az iparág „rendkívül meggondolatlan” hozzáállást tanúsít a fejlesztések során. Coxon úgy véli, „valószínűbb, mint semmi, hogy az emberiség elveszíti az irányítást ezek felett az AI-k felett, és ez emberi kihaláshoz vezethet”. A „move fast and break things” (mozogj gyorsan és törj össze dolgokat) megközelítés szerinte alkalmas egy fotómegosztó alkalmazáshoz, de nem a valaha épített legerősebb technológia fejlesztéséhez. (CNBC Technology)
Daniel Kokotajlo, az OpenAI korábbi kutatója és Alex Turner, a Google DeepMind korábbi kutatója is felszólalt a meghallgatáson. Kokotajlo átláthatóságot és lassabb modellfejlesztést szorgalmazott, míg Turner figyelmeztetett, hogy az Egyesült Államok is versenyt futhat a saját „rosszul igazított” AI-adverszáriumának felépítésében, amely egy napon erősebb lehet Kínánál.
A meghallgatás célja
A New York-i Városi Tanács elnöke, Julie Menin kezdeményezésére a meghallgatáson a cégeknek magyarázniuk kell az AI által jelentett fenyegetéseket, és véleményt kell nyilvánítaniuk a lehetséges törvényi megoldásokról. A tanács minden 51 tagja részt vesz a rendkívüli ülésen.
Ki képviseli a cégeket?
Az Anthropicot Logan Graham, a Frontier Red Team vezetője, az OpenAI-t Morgan Dwyer, a vállalat politikai fejlesztési és működési vezetője képviseli. A Google részéről Alice Friend, az AI és feltörekvő technológiák politikai igazgatója, a Meta részéről pedig Shane Cahill, az AI politikai igazgatója vesz részt a tárgyaláson. Elon Musk SpaceXAI-ja nem jelent meg, annak ellenére, hogy a tanács felszólította őket erre.
Intézkedések és aggodalmak
Az OpenAI és az Anthropic különösen intenzív vizsgálat alá került az elmúlt hónapokban, miután Jacob Coxon kilépett az Anthropicnál betöltött állásából és közösségi médiában fejtette ki aggodalmait, miszerint a cégek „életünkkel játszanak”.
Szeptemberben iparági kutatók is figyelmeztettek arra, hogy mindkét vállalat olyan modellek fejlesztésére törekszik, amelyek potenciálisan katasztrofális károkat okozhatnak, beleértve az emberi kihalást is, ami sürgős kormányzati felügyeletet sürget. Menin megnyitóbeszédében kritizálta a szövetségi kormány eddigi könnyed megközelítését az AI szabályozásával kapcsolatban.