Deepfake-ek, AI-csalások, adatszivárgás, és amikor a mesterséges intelligencia hibázik
A Microsoft 570 biztonsági hibát javított a júliusi frissítésekben, köztük két nulladik napi sebezhetőséget. A cég szerint az AI segített a hibák feltárásában, ami a jövőben még több javítást eredményezhet.
A Google DeepMind és az Isomorphic Labs több mint 15 partnerséget épített ki kormányzati szervekkel és biosecurity-szervezetekkel az AI-biztonság javítása érdekében. A program célja, hogy megakadályozza az AI biológiai kutatásokban való visszaéléseit.
A SpaceXAI Grok Build AI-kódoló eszköze a felhasználók teljes kódjait töltötte fel a Google Cloudra, mielőtt a probléma nyilvánosságra került volna. Elon Musk szerint az összes feltöltött adatot „teljesen és egészen” törlik.
David Kuszmar kutató szerint a nagy nyelvi modellek (LLM) biztonsági korlátai kihasználhatók veszélyes utasítások megszerzésére, az iparág pedig nem reagál a problémára, ami iparág-szintű biztonsági problémát jelez.
Az OpenAI GPT-Red nevű automatizált tesztelője képes feltárni a prompt injection támadásokat, amelyek ellen korábbi modelljeik rendkívül sérülékenyek voltak.
A botok már az internetes forgalom 57%-át teszik ki, ezért a Cloudflare új, Precursor nevű eszköze a látogatók viselkedését figyeli a teljes munkamenet során, nem csak a belépéskor.
Az Apple nyolc éven keresztül dolgozó volt mérnöke, Chang Liu, hitelesítési hibát használt ki, hogy hozzáférjen a cég titkos hardveradataihoz, majd az OpenAI-hoz csatlakozott. A cég pert indított, hogy megakadályozza a lopott információk felhasználását.
A Tracebit kutatói 152 támadási kísérlet során 57%-ról 5%-ra csökkentették az adminisztrátori jogosultságok kiszivárgásának arányát kontextusalapú bombákkal.
Az OpenAI új szervezeti változtatásokat hajtott végre. Johannes Heidecke távozik a cég kutatási és biztonsági vezetőként betöltött pozíciójából.
A Microsoft Autonomous Code Security (ACS) csapata által fejlesztett MDASH (Multi-Model Agentic Scanning Harness) májusban 16 sebezhetőséget talált, ebből négy volt kritikus besorolású, mindet kijavították.
Az Alibaba július 10-től tiltja alkalmazottainak az Anthropic Claude Code használatát, miután kínai hatóságok backdoor-kockázatot jeleztek a kódolóeszközben.
A Savi Security 7 millió dolláros seed-befektetést szerzett az Acrew Capital vezetésével, hogy AI-alapú csalásészlelő alkalmazását elindítsa iPhone-ra és Androidra, amely valós időben elemzi a gyanús üzeneteket, fotókat és hívásokat.
Roberto Serrano, a Brown Egyetem közgazdász professzora szerint a diákok tömegesen használtak AI-t a záróvizsgán, ami drasztikusan, 96-ról 48-ra csökkentette az átlagpontszámot.
A per során kiderült, hogy a férfi 7000 explicit képet készített a lányról, mielőtt öngyilkosságot követett el.
Az IBM és a Red Hat bejelentette a Lightwellt, egy új, AI-vezérelt platformot, amely a nyílt forráskódú szoftverek védelmét célozza meg az AI-alapú támadásokkal szemben. A kezdeményezést 5 milliárd dolláros befektetés és 20 000 mérnök támogatja.
A HalluSquatting nevű új módszerrel a támadók könnyedén hozhatnak létre hatalmas botneteket, végezhetnek nagyszabású DDoS-támadásokat és fertőzhetnek meg eszközöket tömegesen.
Az AI audit folyamat hét hibát talált a Cloudflare CIRCL kriptográfiai könyvtárában, köztük egy kritikus pontosságvesztést és egy hozzáférés-vezérlési rést. A Cloudflare minden hibát kijavított, és a javítások már elérhetők a nyílt forráskódú repóban.
A Discord elismerte, hogy hibás AI-moderációs rendszere több mint 8000 felhasználót tiltott le tévesen az elmúlt két hónapban, a probléma májusban kezdődött, és egy hétvégén további 200 fiók érintettségét okozta.
Harvey Keitel színész aggodalmát fejezte ki az AI-hangok licencelésének veszélyeire hivatkozva, miközben az ElevenLabs Michael Caine hivatalos hangreplikájával narrálta az Odüsszeia hangoskönyvet.
A LayerX által felfedezett BioShocking technika hat AI-vezérelt böngészőt is megtévesztett, így azok kiszolgáltatták a felhasználói hitelesítőadatokat.
Az AI-ügynök 600-nál több célzott műveletet hajtott végre, beleértve a hitelesítő adatok ellopását és a termelési adatbázis titkosítását, a Sysdig Threat Research Team dokumentálta az esetet.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.