Gyorsabb AI-chipekkel jönnek a biztonsági kockázatok, figyelmeztet az OpenAI kutatója
Egy mai legjobb modellek szintjén működő, de 50-szer gyorsabb, nem megfelelően beállított AI behatolhat rendszerekbe, mielőtt az emberi csapatok reagálni tudnának – figyelmeztet az OpenAI „roon” néven ismert kutatója.
Az OpenAI és az Anthropic jelenleg „Fast Modes” (gyors üzemmód) funkciókat kínál, amelyekkel a fizető felhasználók hozzáférhetnek a gyorsított AI-modellekhez. Ezt a technológiai trendet követően hangzottak el a biztonsági aggályok, amelyek a hardver és szoftver fejlesztéseinek kockázataira hívják fel a figyelmet.
A sebesség és a védekezés versenye
A „roon” által megfogalmazott aggodalmak rávilágítanak az AI-biztonsági kutatások egyre növekvő problémájára. A modellek képességeinek növekedésével nő a potenciális károkozás lehetősége, különösen akkor, ha a modellek nincsenek megfelelően összehangolva az emberi célokkal. Ez az úgynevezett alignment-probléma továbbra is megoldatlan, és a sebesség növelése csak súlyosbítja a kockázatot.
„roon” szerint, ha a támadások automatizálttá válnak, akkor a védekezésnek is követnie kell ezt az irányt. Ezért a megfigyelés önmagában nem elegendő, hanem autonóm észlelést és leállítást kell alkalmazni — írja a THE DECODER.
Hardverfejlesztések és kockázatok
A kutató megjegyzései azután hangzottak el, hogy az OpenAI bemutatta új AI-chipjét, amely a várakozások szerint felülmúlja a jelenlegi hardverek teljesítményét az inference sebesség tekintetében. Matthias Bastian közölte a THE DECODER-en a szakértő figyelmeztetését a gyorsított behatolási lehetőségekről.