Stanford és a Hoover Intézet új AI-grantokat indít a globális biztonságért
Három kutatócsapat 100 000 dolláros támogatást kap a Stanford HAI-tól és a Hoover Intézettől, hogy AI-alapú rendszereket fejlesszenek a nukleáris terjesztés észlelése, az USA és Kína közötti verseny elemzése, valamint a politikai befolyásolás vizsgálata érdekében.
A Stanford HAI és a Hoover Intézet $100 000 dolláros kutatási grantokat ítélt oda három projektnek, amelyek az AI globális biztonságra és geopolitikára gyakorolt hatását vizsgálják. A támogatott kutatások a nukleáris terjesztés észlelésére, az Egyesült Államok és Kína közötti versenyre, valamint a politikai befolyásolásra fókuszálnak.
„Erre a kutatásra van szükségünk, amely a technikai AI-fejlesztéseket stratégiai betekintéssé fordítja a politikai döntéshozók számára” — mondta Chris Manning, a Stanford HAI vezető munkatársa.
AI-detektívek a nukleáris terjesztés ellen
Az egyik projekt keretében olyan AI-ügynököket fejlesztenek, amelyek digitális nyomozóként működve képesek lesznek észlelni a nukleáris fegyverek illegális beszerzését és a be nem jelentett nukleáris infrastruktúrát. A kutatók multimodális adatokat, köztük többnyelvű szövegeket, online médiát és műholdfelvételeket használnak majd.
A Mykel Kochenderfer és Amy Zegart által vezetett csapat egy szabványosított teljesítménytesztet is létrehoz a rendszer megbízhatóságának igazolására. A kutatás alapja, hogy korábbi eredmények már bizonyították: az AI-asszisztált munkafolyamatok képesek azonosítani a nukleáris terjesztést nagyméretű műholdfelvételeken.
Közvélemény-kutatás két nyelven
Egy másik projekt a CrossInterviewer nevű, kétnyelvű, AI-alapú interjúeszközt építi ki, hogy összehasonlítsa a közvéleményt az Egyesült Államokban és Kínában az AI-val kapcsolatban. Michael Tomz és Diyi Yang kutatók által vezetett projekt három témát vizsgál: az AI-val kapcsolatos általános attitűdöket, az AI elfogadását a munkahelyen, valamint a nyílt és zárt modellekkel kapcsolatos preferenciákat. Az eszköz adaptív kérdéseket tesz fel, lehetővé téve a mélyreható interjúkat, amelyek korábban csak emberi interjúvezetőkkel voltak lehetségesek.
Politikai befolyásolás és AI-ügynökök
A harmadik kutatás az AI-ügynökök politikai döntéshozatalban betöltött szerepét elemzi, különös tekintettel azokra az esetekre, amikor különböző országokban fejlesztett modellek eltérő beépített torzításokkal rendelkeznek. Jennifer Pan és Sanmi Koyejo vezetésével a kutatók megvizsgálják, hogyan befolyásolja a modell eredete az ügynökcsapatok által előállított eredményeket. Eredményeik betekintést nyújtanak a szuverén AI-ról szóló vitákba, és felvetik a kérdést, hogy szükség van-e a származási hely feltüntetésére politikai alkalmazásokban.