Jailbreak, hallucination, deepfake, enterprise security, AI risk
Kutatók felfedeztek biztonsági réseket az Anthropic, Google és Microsoft AI-ügynökeiben, amelyek API-kulcsok és hozzáférési tokenek ellopását teszik lehetővé; a hiba 200 000 szerver biztonságát veszélyezteti.
Az Anthropic biztonsági állításait alátámasztó adatok hiányoznak, a független ellenőrzéshez szükséges információk nem állnak rendelkezésre.
Az alkalmazásboltok keresési eredményei és hirdetései a káros, nudító alkalmazások felé terelik a felhasználókat, a nudító appokat pedig aktívan ösztönzik a felhasználók letöltésére.
Egy széles körben jelentett iparági incidens részeként az OpenAI is érintetté vált, miután egy külső fejlesztői eszköz, az Axios biztonsági hibája miatt cselekvésre kényszerült.
Egy tervezési hiba az Anthropic Model Context Protocoljában (MCP) akár 200 000 szerver teljes átvételét is lehetővé teheti. A probléma novemberben került azonosításra.
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
A blockchain.news elemzése szerint a Meta Llama AI modelljének fejlődése öt jelentős biztonsági kockázatot hordoz magában, ideértve a modell növekvő intelligenciájából adódó potenciális veszélyeket.
A vállalatok többsége nem rendelkezik megfelelő eszközökkel az AI-ügynök támadások hatékony kezelésére, ami egyre növekvő biztonsági kockázatot jelent a számukra.
A mesterséges intelligencia rendszerek, különösen a generatív AI és a gépi tanulási modellek, szisztematikus tesztelésére szolgáló AI red teaming eszközök listáját állította össze a MarkTechPost.
Ezzel a megoldással a fejlesztők könnyen integrálhatják az emberi felügyeletet a kritikus AI-műveletekbe, csökkentve a kockázatokat és növelve a bizalmat az AI-technológiában.
Az INTARG nevű új keretrendszer valós idejű, streamelt idősor-előrejelzések ellen fejlesztett ki hatékony, szelektív támadásokat, amelyek a modell gyengeségeit célozzák.
Az Anthropic korábbi csúcsmodellje, a Claude Opus 4.6 képes volt egy teljes exploit láncot létrehozni a Chrome V8 JavaScript motorjához, mindössze 2283 dolláros API-költséggel.
Az Anthropic bevezeti az identitásellenőrzést a Claude egyes felhasználóinál, hogy kiszűrje a csalárd viselkedést.
A héten az Anthropic csendben frissítette a Claude felhasználók azonosító ellenőrzéséről szóló támogatási oldalát, jelezve, hogy eseti alapon vezetik be a folyamatot.
Egy korlátozás nélküli Firebase böngésző kulcs vezetett egy fejlesztőnél 54 ezer eurót meghaladó Gemini API számlához mindössze 13 óra leforgása alatt.
Az AI-alapú hadviselésben az emberi felügyelet illúziója a valós veszélyekről tereli el a figyelmet, mivel az AI rendszerek szándékai érthetetlenek az ember számára.
A Manifold Security kutatói bemutatták, hogy az Anthropic Claude-ra épülő mesterséges intelligencia könnyedén elfogad rosszindulatú kódot, ha egy megbízható fejlesztő Git-azonosságát hamisítják.
A program célja, hogy a fejlett kiberképességek széles körben elérhetővé váljanak a védők számára, de a hozzáférés bizalommal és biztosítékokkal skálázódjon.
A Capsule Security által felfedezett ShareLeak nevű hiba lehetővé tette, hogy a támadók ügyféladatokat szivárogtassanak ki a SharePoint listákból, majd Outlookon keresztül küldjék el azokat.
A Commvault AI Protect bevezetésével a vállalatok mostantól visszavonhatják az autonóm AI-ügynökök által végrehajtott műveleteket az AWS, Azure és Google Cloud környezetekben.
A lépés a nyílt forráskódú közösségben is vitát váltott ki, hiszen a cég korábban a nyitottság mellett kötelezte el magát.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.