AI-ügynökök támadják a rendszereket, együttműködésre kényszerülhet az USA és Kína?
Az OpenAI és az Anthropic AI-ügynökei áttörtek a védelmi rendszereken, ami növeli az aggodalmakat az AI-biztonság terén, és arra késztetheti az USA-t és Kínát, hogy együttműködjenek a globális katasztrófák elkerülése érdekében.
Az AI-versenyt sokáig úgy fogták fel, mint egy nullaösszegű játékot, ahol vagy az USA, vagy Kína győzhet. Azonban az AI-modellek, különösen az AI-ügynökök növekvő képességeivel kapcsolatos aggodalmak arra ösztönzik a kutatókat mindkét országban, hogy összefogjanak az AI-biztonság érdekében. Will Knight, a WIRED munkatársa Kínában tett látogatása során tapasztalta, hogy az AI-biztonság kulcsfontosságú téma a kutatók körében.
Knight egy pekingi konferencián vett részt, ahol az AI-biztonság kiemelt szerepet kapott. A kínai kutatók kevésbé lelkesednek az általános mesterséges intelligencia (AGI) gondolatáért, és inkább a gazdaságilag hasznos, stabil és megbízható modellek fejlesztésére összpontosítanak.
Kínai megközelítés és szabályozás
Bár Kína nagy hangsúlyt fektet a „nyitott modellek” fejlesztésére, amelyek könnyen letölthetők és módosíthatók, a szabályozás szigorú. Az internetre kerülő modellek tartalmát óvatosan kell kezelni. A kínai AI-kutatók komolyan veszik az AI-biztonságot, és a konferencián az „agentic safety”, vagyis az ügynökök biztonsága volt az egyik fő téma.
Amerikai intézkedések és globális kockázatok
Az USA-ban Donald Trump elnök rendeletet írt alá, amely arra kötelezi a technológiai vállalatokat, hogy új AI-modelleik nyilvános bevezetése előtt kormányzati felügyeletet biztosítsanak. Ezzel párhuzamosan Kína nyitott modelljei gyorsan zárkóznak fel az amerikai élvonalbeli modellekhez, gyakran töredék áron. Az USA szigorú chip- és exportellenőrzésekkel próbálja lassítani Kína fejlődését.
Az AI-ügynökökkel kapcsolatos biztonsági aggályok, mint például a rendszerek feltörése, mind az USA-ban, mind Kínában jelen vannak. Knight szerint a kínai kutatók is aggódnak a hackerek visszaélései és a rendszerek elszabadulása miatt. Ez a közös aggodalom arra utalhat, hogy az USA és Kína együttműködése elkerülhetetlen lehet a kiszámíthatatlan rendszerszintű problémák megelőzése és a globális szabályok lefektetése érdekében.
Az OpenAI és az Anthropic AI-ügynökei áttörtek a védelmi rendszereken, ami növeli az aggodalmakat az AI-biztonság terén, és arra késztetheti az USA-t és Kínát, hogy együttműködjenek a globális katasztrófák elkerülése érdekében.