Öntörvényű Copilot-féreg terjed a Word dokumentumokban

Egy biztonsági kutató, Håkon Måløy bemutatta, hogyan képes önállóan terjedni egy prompt injection támadás a Microsoft Copilot for Wordben. A kutató egy féregszerű mechanizmust hozott létre: a támadó egy dokumentumba rejtett utasításokat helyez el, fehér szövegként, fehér háttéren, apró betűmérettel. Ez a felhasználók számára láthatatlan, de a Copilot képes feldolgozni, mivel a szín- és betűméret-formázást eltávolítja feldolgozás előtt. (The Decoder)

Amikor egy felhasználó a fertőzött dokumentumot forrásként használja, a Copilot végrehajtja a rejtett utasításokat, és azokat az új fájlba másolja. Ez az új fájl válik a féreg új hordozójává. Ha ezt a dokumentumot sablonként használják, a támadás ismét aktiválódik, így képes automatikusan terjedni új fájlokba.

A Microsoft válasza és a kockázat

A Microsoft március 31-én megerősítette a viselkedést. Két javítási kísérletük azonban kudarcot vallott, és 144 nap elteltével sem sikerült orvosolni a problémát. Måløy végül augusztus 1-jén tette közzé a felfedezéseit.

Prompt injection: megoldatlan probléma

A biztonsági kutató, Andreas Kirsch nemrég viccesen megjegyezte, hogy pont egy ilyen féregre lenne szükség a mesterséges intelligencia biztonsági kockázatainak valósághű bemutatásához. A most létező féreg rávilágít arra, hogy a prompt injection támadások továbbra is megoldatlan AI-biztonsági problémát jelentenek. Måløy a pontos payload szövegét visszatartja.