A Cactus Compute Whistle modellje gyorsabb, mint a Whisper
A 16,9 MB-os Whistle modell hét nyelvet támogat, és CPU-n futtatva felülmúlja a Whisper base sebességét a teljesítménytesztek szerint.
A Cactus Compute bemutatta a Whistle nevű új beszédfelismerő modelljét, amely 16,9 MB-os méretével és CPU-n való futtathatóságával tűnik ki. A modell hét nyelvet támogat, és képes szavakhoz tartozó időbélyegeket és valószínűségeket visszaadni. (MarkTechPost)
A modellkártya szerint a Whistle jobb eredményeket ér el a LibriSpeech adathalmazon, mint a Whisper base. A tesztek során a Whistle gyorsabbnak bizonyult a greedy Whisper base-hez képest a test-other adatszetteken, míg a beam search használatával nem mutatkozott szignifikáns különbség a pontosságban. A sebességelőny a hosszabb hangklipek esetén csökken.
Tesztelési körülmények és korlátok
A tesztelés során egy 30 másodperces ablakban megfigyelték, hogy a modell hosszabb hanganyagok közepét csendben elhagyhatja. Ezen kívül vizsgálták a streaming késleltetést, a kulcsszavak kiemelését, a többnyelvű támogatást, a zajokkal szembeni ellenállóságot, az embeddingeket és a speech-to-tool hívásokat is.
Apple M4 CPU-n végzett mérések
Az Apple M4 CPU-n végzett tesztek eredményei egyedi futtatásokon alapulnak, míg a publikált, teljes adatszettekre vonatkozó számokat idézték. A Whistle sebességelőnye a Whisper base-hez képest jelentős lehet, különösen rövidebb hanganyagok esetén, ami vonzóvá teheti a helyi, alacsony erőforrásigényű beszédfelismerési feladatokhoz.
A Whistle 16,9 MB-os mérete és a hét nyelvi támogatás a Cactus Compute által publikált adatok szerint jellemzi a modellt.