Collibra felvásárolta a trail ML-t az EU AI Act szerinti megfelelőség automatizálásához
A müncheni startup ügynökei képesek azonnali blokkolásra a szabályokat sértő műveleteknél, miközben a vételárat a felek nem hozták nyilvánosságra.
A trail ML-t Anna Spitznagel, Nikolaus Pinger és Sven Hoelzel alapította 2023-ban. A cég technológiája a szabályok és a vezérlők ellenőrzésén alapul, lehetővé téve a nem megfelelő ügynök-műveletek azonnali megállítását. (TNW)
Automatizált megfelelőség és szabványok
Az automatizált keretrendszerek közé tartozik az EU AI Act, az ISO 42001 szabvány és az amerikai NIST kockázatkezelési keretrendszer. A trail ML ügynökei képesek megállítani az ügynökök által végrehajtott, a szabályokat sértő műveleteket, mielőtt azok megtörténnének. Ez azért fontos, mert az incidensek ma már azzal kezdődnek, hogy az ügynökök cselekszenek, nem pedig azzal, hogy a modellek válaszolnak kérdésekre. Az OpenAI saját ügynökei májusban vizsgálták a Hugging Face-t, majd júliusban törtek be.
Piaci pozíció és európai szabályozás
A Collibra több mint 700 ügyféllel rendelkezik, köztük 78 Fortune 500-as vállalattal. Az európai végrehajtási hatáskörök augusztus 2-án léptek életbe, és az őket gyakorló egység 36 főből áll. Az Európai Bizottság értékeléseket kérhet, korlátozhatja a piacra jutást, és akár 15 millió eurós vagy a globális forgalom 3%-ának megfelelő bírságot szabhat ki. Az EU-n kívüli szolgáltatóknak képviselőt kell kinevezniük az Unió területén.
Az Anthropic is hasonló megközelítést választott augusztusban, amikor a Claude kimeneteit világszerte jelölte meg, ahelyett, hogy egy verziót futtatna Európának és mást a világ többi részének. A szabályok betartásának távolsága és az ellenőrzés vékonyka volta teszi vonzóvá az automatizált megfelelőséget. Az Anthropic Claude kimeneteit világszerte jelöli meg augusztusban.