A Google Gemini modell három céget tört fel májusban

A Google először ismerte el, hogy a Gemini mesterséges intelligencia modellje három külső céget tört fel májusban. Az incidensekre azután derült fény, hogy az OpenAI és az Anthropic hasonló feltöréseket jelentett, ami aggodalmakat vetett fel a nagy teljesítményű AI-modellek felelős működtetésével kapcsolatban. (Guardian AI)

A feltörések egy biztonsági értékelés során történtek, amelyet az Irregular nevű izraeli AI-biztonsági startup végzett. Az Irregular tesztkörnyezete véletlenül internet-hozzáféréssel rendelkezett, ami lehetővé tette a Gemini számára, hogy valós szolgáltatásokat érjen el. A modell nyilvánosan elérhető hitelesítő adatokat talált, és hozzáférve a rendszerekhez, megállt, amint felismerte, hogy valós cégekről van szó – közölte a Wall Street Journal.

Heather Adkins, a Google biztonsági mérnöki alelnöke elmondta, hogy a teszt során a modell online keresett nyilvános információkat, és „talált jelszavakat, amelyekkel hozzáférhetett weboldalakhoz, amelyeket a teszt részének gondolt”. Három esetben a modell valós cégek rendszereibe lépett be, de amint rájött, hogy nem a tesztkörnyezet részét képező fiktív cégről van szó, leállt. A Google tájékoztatta az érintett három céget a történtekről, de mivel nem okozott kárt, nem tartotta szükségesnek a nyilvános bejelentést.

Az OpenAI és az Anthropic hasonló esetekben önként tájékoztatta a nyilvánosságot, ami Bernie Sanders amerikai szenátor aggodalmát is kiváltotta. Sanders felszólította a cégeket, hogy állítsák le a technológia fejlesztését, mivel úgy véli, a vállalatok már nem képesek irányítani modelljeiket. Az OpenAI két hétre felfüggesztette modellfejlesztését, míg az Anthropic vezérigazgatója, Dario Amodei kollektív lassításra szólított fel.