Az OpenAI és a lengyel NASK összefogott az AI-biztonságért

Az OpenAI és a lengyel NASK Nemzeti Kutatóintézet együttműködési megállapodást írt alá, amely az AI-biztonság, a kiberbiztonság és a technikai kutatások területén való közös munkát célozza. A partnerség célja, hogy jobban megértsék a felmerülő kockázatokat, erősítsék a védelmi mechanizmusokat, és hozzájáruljanak egy ellenállóbb digitális ökoszisztéma kialakításához.

Ahogy az AI-rendszerek képességei fejlődnek, elengedhetetlen a fejlesztők és a közintézmények közötti nemzetközi együttműködés a kockázatok megértéséhez és a biztonsági intézkedések megerősítéséhez. Az OpenAI korábbi együttműködései a CAISSI-vel, az Egyesült Királyság AI Biztonsági Intézetével (AISI) és más globális kutatóintézetekkel már segítettek a biztonsági rések azonosításában és kijavításában.

A megállapodás értelmében az NASK AI Biztonsági Kutatóközpontja, amely a lengyel AI Biztonsági Intézetként is működik, közös kutatásokat végez az OpenAI-val. Ennek keretében értékelik a képességeiket folyamatosan fejlesztő AI-rendszereket, azonosítják a potenciális sebezhetőségeket és erősítik a védelmi intézkedéseket.

Kockázatértékelés és közös kutatás

„Az együttműködés az NASK és az AI Biztonsági Kutatóközpont számára természetes lépés, hiszen aktívan részt veszünk az AI-biztonsági kutatásokban. Ez magában foglalja a felmerülő kockázatok elleni védelmi mechanizmusok fejlesztését, a szintetikus AI-generált tartalom észlelése, valamint ezeknek a kihívásoknak a többnyelvű aspektusainak megértése” – nyilatkozta Radosław Nielek, az NASK igazgatója.

Hozzátette: „Az AI-biztonság nem érhető el elszigetelten. Ez egy együttműködésen alapuló erőfeszítés, és csak a közös AI Biztonsági Intézetek és a határterületi AI-fejlesztők közötti aktív együttműködés révén biztosíthatjuk, hogy az AI valóban megbízható és biztonságos legyen.”

Lengyel kutatói szakértelem

„Lengyelország kivételes tudósokkal és technikai szakemberekkel rendelkezik, akik közül sokan az OpenAI saját kutatásaiban is vezető szerepet játszottak. Ahogy az AI egyre képessé válik, létfontosságú, hogy saját szervezetünkön túlmutató szakértelemre támaszkodjunk, hogy kihívjuk feltételezéseinket, teszteljük rendszereinket és erősítsük a védelmi mechanizmusokat” – mondta Tom Duff Gordon, az OpenAI EMEA politikai vezetője. „Ez az NASK-kal kötött megállapodás megnyitja az utat ennek közös megvalósítására, bevonva Lengyelország kutatási szakértelmét a nemzetközi erőfeszítésekbe az AI biztonságosabbá tétele érdekében.”

Az OpenAI korábban felszólította az Egyesült Államokat, hogy dolgozzon együtt a világ országaival a határterületi AI nemzetközi technikai szabványainak kidolgozásán, igénybe véve az AI-biztonsági intézetek és a szabványügyi testületek szakértelmét.

A képességek értékelésére, a kockázatok felmérésére, a védelmi intézkedések tesztelésére és az incidensek jelentésére vonatkozó közös megközelítések segíthetnek az országoknak az adatok összehasonlításában és a határokon átívelő kockázatokra való reagálásban. Az NASK-kal való együttműködés tükrözi a nemzeti szakértelem szélesebb körű erőfeszítésekbe való bevonásának értékét.

Az NASK szakértelme az AI-biztonság terén szerzett kiterjedt kutatásokon alapul, amelyeket közvetlenül a közszolgáltatások és Lengyelország digitális információs ökoszisztémájának védelmére alkalmaznak. Az NASK-hoz hasonló nemzeti partnerek nélkül a globális AI-biztonsági szabványok elszakadhattak volna attól a valóságtól, ahogyan az AI-t ténylegesen használják.

A megállapodás az OpenAI és lengyelországi kibervédelmi szakemberek közötti meglévő együttműködésre is épít. Júliusban az NASK-on belül működő CERT Polska hozzáférést kapott az OpenAI Daybreak nevű kibernetikai képességekkel rendelkező modelljeihez. A csapat OpenAI modelleket használt hat sebezhetőség felfedezéséhez a MikroTik RouterOS-ben, beleértve olyan hibákat is, amelyek hitelesítés nélkül is lehetővé tették az érintett eszközök irányítását. A gyártó javításokat adott ki, amelyeket a CERT Polska megerősített, hogy megakadályozzák a megfigyelt támadásokat.