Titkos paraméterrel lopott adatokat a Microsoft Copilot
A Varonis biztonsági kutatói egy dokumentálatlan ?autorun=1 paramétert fedeztek fel a Microsoft Copilotban, amely lehetővé tette a felhasználói hitelesítő adatok ellopását anélkül, hogy a felhasználónak bármit is tennie kellett volna.
A kutatók célja egy olyan exploit létrehozása volt, amely csupán egyetlen linkre kattintva képes adatokat exfiltrálni. A Copilot kezdetben megtagadta a kérést, de minden egyes megtagadás újabb részleteket árult el a belső működéséről. Végül a modell felfedte a ?autorun=1 nevű, dokumentálatlan paramétert. Ezt a ?q= paraméterrel kombinálva a támadók által küldött rosszindulatú URL-re kattintva az utasítások automatikusan végrehajtódtak, felhasználói jóváhagyás nélkül. (Ars Technica)
„A Copilot folyamatosan megtagadta, de minden megtagadás technikai részleteket árult el a belső architektúrájáról” — mondta Lior Adar, a Varonis vezető kutatója az Ars Technicának. „Végül dokumentálatlan paramétereket árult el. Ezeket a paramétereket használtam fel a promptokhoz az automatikus futtatáshoz.”
A sebezhetőség működésmódja
A ?autorun=1 és a ?q= paraméterek kombinációja lehetővé tette, hogy a felhasználó által kattintott rosszindulatú URL-ek automatikusan végrehajtsanak parancsokat a Copilotban. A támadók így képesek voltak érzékeny adatokat, például e-mail címeket, jelszavakat és egyéb információkat ellopni, majd egy támadó által vezérelt szerverre küldeni azokat. Az ellopott adatokat a rendszer base64 formátumba kódolta az adatvesztés elkerülése érdekében.
A Microsoft először februárban, három hónappal a Varonis bejelentése után, csendben javította a sebezhetőséget azzal, hogy nem engedte többé a ?q= paramétert szöveget injektálni a chatbot bemenetébe. Ezt követően kedden vezettek be átfogóbb javításokat.
Memóriapermetezés és további támadások
A Varonis egy másik támadást is kidolgozott, amely egy weboldalba ágyazott prompt injection segítségével mérgezte meg a Copilot állandó memóriatárolóját. Ez a memória felhasználói információkat, preferenciákat és utasításokat ment el, így azok a jövőbeli munkamenetek során újból megadhatók. Egy ilyen támadás lehetővé tehette a kimenetek továbbítását, információk szűrését vagy támadó által meghatározott műveletek végrehajtását.
A Varonis által Co-Snitch-nek elnevezett támadás egy korábbi, Copilot Personal elleni akciójukat követi, amely szintén egyetlen kattintással kivitelezhető volt.