Grafana új Go SDK-ja egységes API-t ad a nyílt forráskódú AI-modellekhez

Az SDK támogatja az Anthropic, az Amazon Bedrock, az OpenAI és az OpenAI-kompatibilis API-kat, valamint a Grafana saját hosztolt végpontját. Emellett tartalmaz olyan gyártási ellenőrzéseket, mint az automatikus újrapróbálkozás és az eszközök jóváhagyását biztosító aláírások. (Hacker News)

Támogatott szolgáltatók és biztonsági funkciók

Az eszköz a Vercel AI SDK dizájnját követi, így kompatibilis a React useChat hookkal, és egy Go végpont képes Server-Sent Events streamelésre közvetlenül ezekhez a frontend komponensekhez. A Grafana kiadta az AI SDK-t Go programozási nyelvhez, amely egységes felületet biztosít a különböző AI-modellekhez. Az SDK lehetővé teszi a fejlesztők számára, hogy streameljenek válaszokat, hívjanak meg eszközöket és kezeljenek több lépéses ügynököket a támogatott szolgáltatókon keresztül.