Dettmers szerint az AI-ban az egyetemi laborok reneszánsza jön

A kutatás alapegysége a korábbiakhoz képest már nem az önmagában álló publikáció, hanem a koherens ökoszisztéma. Az új ügynöktechnológiák révén a projektek gyorsabbá váltak, így a hangsúly a különálló szövegek helyett az egymásra épülő rendszerek létrehozására tevődik át. (Hacker News)

Rövidebb ciklusok és ökoszisztémák

Az ügynökök (agents) bevezetésével a korábban egy évig tartó mérnöki munka most hetek vagy napok alatt is teljesíthető. Ez a változás azt eredményezi, hogy az olvasóknak nem kell többé külön-külön publikációkból összerakniuk a nagyobb képet, mivel a kutatási egységek egymást erősítik.

Hardverigény és nyílt forráskód

Dettmers laborja nyílt forráskódú rendszereket fejleszt, amelyek célja, hogy a frontier modellek teljesítményét megismételjék autonóm kutatási rendszerekben. A rendszer képes 27 milliárd paraméteres modellek futtatására egyetlen 24 GB-os GPU-n, vagy akár egy 550 milliárdos modell futtatására is megfelelő hardveren, miközben az inference sebessége hosszú kontextusok esetén is magas marad.

Egy konkrét fejlesztés során a rendszer egy Qwen 3.8 Flash Next modellt futtatott 1,5 bites súlyokkal, ami drasztikusan javította a memóriaigényt. A laborban kifejlesztett új információ-visszakeresési technika pontossága felülmúlja a nagy kutatólaborok rendszereit, és teljesen lokálisan, internetkapcsolat nélkül működik.

Az egyetemek szabadsága lehetővé teszi, hogy a legújabb AI-eszközöket ingyenesen tegyék elérhetővé, ami egyedülálló előnyt jelent a kutatók és hallgatók számára. A rendszer használatát a laborban mindennap tesztelik, miközben a bioinformatikai feladatok megoldásában az ügynök két óra alatt új alsó határt állapított meg a heuristikus módszerekre.