Deepfake-ek, AI-csalások, adatszivárgás, és amikor a mesterséges intelligencia hibázik
A felfedezések egy mesterséges intelligencia alapú ügynöknek köszönhetők, amely jelentősen felgyorsíthatja a sebezhetőségek felderítését a szoftverekben.
A fiókot még júniusban tiltották le problémás használat miatt, de az OpenAI akkor nem látta indokoltnak a rendőrségi bejelentést a kanadai Tumbler Ridge-ben történt januári lövöldözés előtt.
Az új irányelv segít az AppSec vezetőknek, mérnököknek és adatszakértőknek, hogy az AI-eszközök bevezetése ne váljon kontrollálhatatlan biztonsági kockázattá a vállalatoknál.
A program célja, hogy a kutatók egyetlen "jailbreak" prompttal megkerüljék a modell öt biológiai biztonsági kérdését, anélkül, hogy a moderáció beavatkozna.
A lépés részeként a Microsoft kiberbiztonsági csapata az OpenAI modelljeinek, infrastruktúrájának és közös ügyfeleinek védelmén dolgozik.
Az AI-ügynökök által használt külső eszközök szándékosan hamis információkat szolgáltathatnak, a jelenlegi értékelési módszerek pedig nem vizsgálják ezt a lehetőséget. Ez a hiányosság komoly biztonsági kockázatot jelent.
A CrabTrap egy LLM-alapú HTTP proxy, amely valós időben értékeli és blokkolja az AI ügynökök kéréseit, így biztosítva a biztonságos működést.
A támadók jogosulatlan hozzáférést szereztek a Vercel belső rendszereihez, miután egy Context.ai alkalmazott gépét 2026 februárjában Lumma Stealerrel fertőzték meg.
A Johns Hopkins Egyetem kutatói egyetlen rosszindulatú GitHub pull request címmel szivárogtattak ki API kulcsokat, kihasználva a rendszerek gyenge pontjait.
Az alkalmazás a felhasználó tudta és beleegyezése nélkül módosítja a böngészők hozzáférési beállításait, még akkor is, ha a böngészők nincsenek telepítve a gépen.
Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) és az OkCupid közötti megállapodás nyomán a cég 2026. április 7-én igazolta a törlést az FTC-nek.
Az új beépített funkcióval a felhasználók mostantól könnyedén integrálhatnak biztonsági ellenőrzéseket a meglévő automatizált folyamataikba, anélkül, hogy külső alkalmazásokat vagy egyedi kódot kellene használniuk.
Április 19-én a Vercel azonosított egy biztonsági incidenst, amely a Context.ai miatt történt.
Az OpenAI javított pozíciót ért el, míg a Google DeepMind visszacsúszott a vezető AI-cégek biztonsági rangsorában 2025 nyarán. A változás az AI-cégek biztonsági gyakorlatainak értékeléséből adódik.
Kutatók felfedeztek biztonsági réseket az Anthropic, Google és Microsoft AI-ügynökeiben, amelyek API-kulcsok és hozzáférési tokenek ellopását teszik lehetővé; a hiba 200 000 szerver biztonságát veszélyezteti.
Az Anthropic biztonsági állításait alátámasztó adatok hiányoznak, a független ellenőrzéshez szükséges információk nem állnak rendelkezésre.
Az alkalmazásboltok keresési eredményei és hirdetései a káros, nudító alkalmazások felé terelik a felhasználókat, a nudító appokat pedig aktívan ösztönzik a felhasználók letöltésére.
Egy széles körben jelentett iparági incidens részeként az OpenAI is érintetté vált, miután egy külső fejlesztői eszköz, az Axios biztonsági hibája miatt cselekvésre kényszerült.
Egy tervezési hiba az Anthropic Model Context Protocoljában (MCP) akár 200 000 szerver teljes átvételét is lehetővé teheti. A probléma novemberben került azonosításra.
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
A blockchain.news elemzése szerint a Meta Llama AI modelljének fejlődése öt jelentős biztonsági kockázatot hordoz magában, ideértve a modell növekvő intelligenciájából adódó potenciális veszélyeket.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.