A Claude négyszeresére gyorsítja a biomolekuláris modelleket
Az Anthropic Claude AI-ja kevesebb mint négy hét alatt több mint 30 nyílt forráskódú biomolekuláris modellt optimalizált, átlagosan négyszeres sebességnövekedést elérve.
A fehérjestruktúra-előrejelzés és -tervezés során a modellek számítási idejének és memóriájának nagy részét a háromszög-figyelem és a háromszög-szorzás műveletei teszik ki. Ezek a folyamatok teszik lehetővé a biomolekuláris rendszerek geometriájának modellezését, de rendkívül erőforrás-igényesek: a rendszer méretének megduplázása nyolcszoros futásidő- és memóriaráfordítást igényel.
Az Anthropic a FlashPairformer nevű egyedi kernelekkel fejlesztett ki új megoldást, amely túlteljesíti a területen szabványosnak számító NVIDIA cuEquivariance-t. A FlashPairformer a háromszög-figyelem esetében átlagosan 2,7–2,9-szeres, a háromszög-szorzásnál pedig 1,7–3,2-szeres gyorsulást eredményez a modellkonfigurációtól függően — írja az Anthropic Blog.
Memóriatakarékos üzemmód nagy rendszerekhez
A sebességnövelés mellett a Claude egy új, memóriatakarékos „Big” módot is létrehozott. Ez lehetővé teszi a 10 000 tokennél nagyobb rendszerek, például molekuláris gépek (riboszóma, légzési komplexumok) pontos modellezését, sőt, akár 70 000 token feletti rendszerek futtatását is mindössze egyetlen NVIDIA GPU-n. Ez korábban elérhetetlen volt a legtöbb molekuláris biológus számára.
Optimalizációs folyamat és elérhetőség
A fejlesztés eredményeként a Claude által optimalizált verziók nem befolyásolták a downstream feladatok (például a struktúra-előrejelzés) teljesítményét. Az Anthropic szerint egy tapasztalt mérnöki csapat hetekig dolgozna egy-egy modell optimalizálásán, és az eredmények gyakran nem voltak átvihetők más modellekre. Claude ezt a feladatot két Anthropic-munkatárs felügyelete mellett, kevesebb mint négy hét alatt végezte el több mint 30 nyílt forráskódú modellen.
Az Anthropic a teljes optimalizált kódot nyílt forráskódként tette elérhetővé, és egy Adaptyv Bio-val közösen szervezett fehérje-tervezési versenyt is meghirdetett, amelyen akár 1 millió dollár értékű Claude-kreditet lehet nyerni.