Claude-kimeneteket nem használhatsz saját AI-modellek képzésére — állítja az Anthropic
Az Anthropic megtiltja, hogy a Claude által generált kimeneteket saját AI-modellek képzésére használják írásbeli engedély nélkül, kivéve nem versengő célokat.
Az Anthropic szigorítja a Claude chatbot kimeneteinek felhasználási feltételeit: a jövőben írásbeli engedély nélkül tilos a cég szolgáltatásait igénybe venni saját mesterséges intelligencia modellek betanítására. A szabályozás célja a biztonsági kontrollok elvesztésének megakadályozása és a versenytársak támogatásának visszaszorítása.
A Hacker News közlése szerint a felhasználási feltételek módosításai már érvényesek, az Anthropic azonban nem közölte hivatalosan, mikortól lép életbe pontosan az új szabályozás.
Biztonsági kockázatok és láthatóság hiánya
Az Anthropic jelentős erőforrásokat fektet a Claude biztonságos, hasznos és ártalmatlan működésének biztosításába. A cég szigorú tesztelést végez, többféle biztonsági réteget alkalmaz, és folyamatosan figyelemmel kíséri a modellje viselkedését. Amikor a Claude által generált kimeneteket felügyelet nélkül használják új modellek képzésére, további kockázatok merülnek fel.
Ezek a modellek elveszíthetik az Anthropic eredeti biztonsági intézkedéseit, potenciálisan káros vagy veszélyes AI-rendszereket eredményezve. Emellett az Anthropicnek nincs rálátása ezeknek a „desztillált” modelleknek a telepítésére, így nem tudja felügyelni azok használatát vagy megelőzni a visszaéléseket.
Versenykorlátozás és üzleti érdekek
Az Anthropic szerint amikor az ügyfelek a Claude-ot használva olyan kimeneteket generálnak, amelyekkel aztán közvetlen versenytársakat képeznek, lényegében a cég infrastruktúráját és befektetéseit használják saját szolgáltatásaik aláásására. Más szoftver- és szolgáltatókhoz hasonlóan az Anthropic is elvárja, hogy szolgáltatásait ne használják fel termékei aláásására.
Engedélyezett és tiltott felhasználási módok
A kimeneteket továbbra is fel lehet használni olyan modellek képzésére, amelyek nem versenyeznek közvetlenül az Anthropic saját modelljeivel. Ilyen felhasználási területek közé tartoznak speciális osztályozók és eszközök létrehozása, mint például érzelemanalizáló eszközök, tartalomkategorizáló rendszerek, összefoglaló eszközök, információkinyerő eszközök, szemantikai keresőeszközök és anomáliadetektáló eszközök.
A kimeneteket emellett integrálni lehet alkalmazásokba, termékeken belüli funkciók meghajtására, tartalomgenerálásra ügyfelek számára, adatok elemzésére és strukturálására, valamint belső munkafolyamatok és a termelékenység javítására.
Az Anthropic Általános Szerződési Feltételei nem engedélyezik a kimenetek felhasználását olyan modellek képzésére, amelyek versenyeznek a cég saját modelljeivel, vagy ha harmadik felet támogatnak ebben. A tiltott felhasználási módok közé tartoznak általános célú chatbotok, nyílt végű szöveggenerálásra tervezett modellek, a kimenetek képzési céladatként való használata, valamint a képzési módszerek fordított mérnöki elemzése.