Instinct AI asszisztens adatvédelmi aggályokat vet fel, a felhasználók bizalmát is aláásta

Az Instinct AI asszisztens, amely még csak privát tesztelés alatt áll, lenyűgöző képességeivel hívta fel magára a figyelmet, de egyúttal adatvédelmi és biztonsági aggályokat is felvetett. A tesztelők „varázslatosnak” és az OpenClaw óta a „legizgalmasabbnak” nevezték a rendszert, ám többen aggályokat fogalmaztak meg az AI ügynök biztonsági modelljével és a szolgáltatási feltételekkel kapcsolatban.

A San Franciscó-i székhelyű Instinct, amelyet Noah Shinn korábbi Sierra kutató tudós vezet, a Spear Street Technology üzemelteti. Az AI ügynök az alkalmazásokhoz és eszközökhöz kapcsolódik, beleértve az e-mailt, üzenetküldő alkalmazásokat, naptárat, valamint a készülék hangját, helyzetét és képernyőjét. A felhasználók üzenetben vagy telefonon keresztül kérhetik az AI-t különféle feladatok elvégzésére, mint például foglalások intézése, repülőtéri utazások szervezése, postaládák rendbetétele, információk rendszerezése, vásárlás lebonyolítása vagy repülőjegyek keresése.

A tesztelők ugyanakkor aggodalmukat fejezték ki a vállalat adatvédelmi és biztonsági megközelítése miatt. A szolgáltatási feltételek széles körű, „örökös és visszavonhatatlan” licencet biztosítanak az Instinct számára, hogy „hozzáférjen, használjon, tároljon, gyorsítótárazzon, reprodukáljon, továbbítson, megjelenítsen, publikáljon, terjesszen és módosítson” bármilyen felhasználói anyagot, beleértve az AI modellek betanítását is.

A feltételek részletezik, hogyan kaphat az Instinct információt a felhasználók eszközeiről, beleértve a képernyőfelvételeket, kurzormozdulatokat és billentyűzetbeviteleket. Az Instinct azt is lehetővé teszi, hogy a felhasználók nevében „megállapodásokat, kötelezettségvállalásokat vagy tranzakciókat” kössön, amelyek kötelező érvényűek lennének.

Adatkezelési aggályok és hibák

Peter Yang egyik korai felhasználó jelezte, hogy az Instinct nem volt hajlandó törölni a Gmail-adatait, amikor kérte. Bár a csapat később egy törlési eszközzel javította a problémát, Yang szerint ez aggályos, hogy az e-maileket engedély nélkül indexelik és tárolják, és nem lehet őket törölni az adatbázisból. Claire Vo pedig azt tapasztalta, hogy az Instinct továbbra is összefoglalta a postaládáját, miután leválasztotta a hozzáférését. Amikor megkérdezte az AI-t, a megerősítette, hogy az e-maileket szöveges formában tárolták későbbi keresések céljából.

Biztonsági kockázatok és bizalomvesztés

Több tesztelő aggódott a biztonsági modell miatt is. Egy felhasználó meglepődött, amikor az Instinct képes volt egy e-mailből kiolvasni egy regisztrációs kódot egy feladat elvégzéséhez, például egy asztalfoglaláshoz. Alex Cohen, a Hello Patient társalapítója pedig törölte a fiókját, miután rájött, hogy az Instinct milyen könnyen kijátszható.

Katie Jacobs Stanton, a Moxxie Ventures alapítója szerint az Instinct megtörte a bizalmát azzal, hogy az ő előzetes ellenőrzése nélkül küldött ki egy e-mailt a nevében. „A magánéletet és az irányítást cseréljük fel hiper-perszonalizált AI-eszközökre, gyakran anélkül, hogy teljesen megértenénk a cserét” – jegyezte meg.

Michael Mignano, az Anchor alapítója szerint az Instincthez hasonló termékek „megváltoztatják a fogyasztók modern biztonsági normáit”, és az emberek „egyre inkább átadják a jelszavaikat harmadik féltől származó alkalmazásoknak, anélkül, hogy tudnák, hogyan vagy mit tárolnak számukra”. Az Instinct iránti érdeklődés az OpenClaw megjelenése óta nőtt, amely szintén népszerűvé vált képességei miatt, és alapítója az OpenAI-hoz csatlakozott a következő generációs személyi ügynökök fejlesztéséhez.

Az Instinct csapata egyelőre nem reagált az aggályokra és panaszokra, és kerüli a nyilvánosságot. A TechCrunch információi szerint a Kleiner Perkins és a Conviction befektetett a startupba, és a körök már lezárultak. A céghez Lucas Borletti is csatlakozott, aki korábban szintén a Sierra kutatója volt, de ezt hivatalosan nem erősítették meg.