Az NHS több száz GitHub-tárolóját teszi priváttá május 11-ig AI-fenyegetés miatt

Az Egyesült Királyság Nemzeti Egészségügyi Szolgálata (NHS) arra utasította technológiai vezetőit, hogy ideiglenesen tegyék priváttá a szervezet nyílt forráskódú projektjeit. A döntés hátterében a fejlett mesterséges intelligencia modellek, különösen az Anthropic Mythos által jelentett biztonsági aggodalmak állnak — írja a The Register.

A belső iránymutatás szerint a GitHub-tárolókat május 11-ig kell nyilvánosról privátra állítani. Az NHS Engineering Board által jóváhagyott intézkedés célja a kiberbiztonsági helyzet megerősítése, miközben felmérik az AI-modellek gyors fejlődésének hatását. Az NHS továbbra is közzéteszi a forráskódot, ha arra egyértelműen szükség van.

Az NHS England szóvivője szerint a lépés csupán ideiglenes. Az iránymutatás kiemeli, hogy a nyilvános tárolók jelentősen növelik a forráskód, az architekturális döntések és a konfigurációs részletek véletlen kiszivárgásának kockázatát. Ez különösen igaz azokra a fejlett AI-modellekre, mint a Mythos, amelyek képesek nagyméretű kódbeolvasásra, következtetésre és érvelésre.

Az NHS forrásai szerint a több száz nyílt forráskódú tároló közül nagyon kevés tartalmaz érzékeny információt; többségük dokumentációt, architektúra-diagramokat és belső eszközök, például klinikai időpont-kezelő webalkalmazások kódjait tartalmazza. Bár egy olyan élvonalbeli AI-modell, mint a Mythos, hibákat tárhat fel, az egészségügyi szolgáltatásokra nézve elenyésző a kockázat.

Ez a döntés azonban jelentős, bár ideiglenes fordulatot jelent az NHS régóta fennálló, nyílt forráskódú politikájában, amely összhangban van a szélesebb brit kormányzati politikával. Az NHS szolgáltatási kézikönyve szerint minden új forráskódot nyílt forráskódúvá kell tenni, megfelelő licenc alatt.

Az NHS England nem adott becslést arra vonatkozóan, hogy mikor ér véget ez az ideiglenes zárt forráskódúvá tétel, és nem válaszolt arra sem, hogy milyen jelentős fenyegetéseket lát a fejlett AI-modellekben a nyílt forráskódú tárolóira nézve. Az Anthropic Mythos modelljét az Anthropic szerint képes gyorsan megtalálni olyan sebezhetőségeket, amelyeket a tapasztalt emberi csapatok is elkerülnének. Azonban mások túlértékeltnek tartják a modellt, és az Anthropic még nem hozta nyilvánosságra a téves riasztások számát, ami gyakori probléma az AI-val.

A Forrester elemzői arra figyelmeztetnek, hogy amint az erőteljes modellek eljutnak a nyilvánossághoz – és a támadókhoz –, a nyílt forráskódú szoftverek valódi fenyegetéssel néznek szembe. Az NHSX korábbi nyílt technológiai vezetője, Terence Eden szerint a nyílt forráskódú tárolók privátra állítása nem nyújt érdemi védelmet a fejlett AI-képességek ellen, mivel a kódokat már évekkel ezelőtt betanítási célokra használták fel. A tárolók privátra állításának határideje május 11.