Az OpenAI modellje megoldotta a Navier–Stokes Millenniumi Díj-problémát

Az OpenAI szeptember 8-án jelentette be, hogy egy belső, még nem publikált modellje, amely a GPT-6 Astra modellnél „jelentősen képzettebb” — állítja a cég —, megoldotta a Navier–Stokes-egyenlet létezését és simaságát. Ez a probléma a Clay Mathematics Institute hét Millenniumi Díj-problémájának egyike, amelyek mindegyikére 1 millió dollár pénzdíjat tűztek ki 2000-ben. (Last Week in AI)

Az OpenAI közleménye és Lean formalizálása szerint egy kezdetben sima, háromdimenziós, összenyomhatatlan folyadék, amelyet egy sima külső erő hajt és véges energiával rendelkezik, véges időn belül korlátlan sebességet fejleszthet. A mechanizmus egy befelé spirálozó és spagettiszerűen megnyúló örvény, amelynek magja zsugorodik és gyorsul.

Matematikai vita és szkepticizmus

Az OpenAI erőfeszítései szeptember 1-jén kezdődtek, miután pletykákat hallottak arról, hogy két Millenniumi Díj-problémát már megoldottak. Körülbelül 100 ügynök mintegy 50 óra alatt megoldotta az Euler-egyenlet nem kényszerített felrobbanását, majd az erőforrásokat a Navier–Stokes-egyenlet felé irányították, mintegy 10 000 párhuzamos ügynök bevonásával.

Szeptember 5-én az ügynökök mintegy 88 óra után eljutottak egy megoldáshoz, a Lean formalizálás és ellenőrzés pedig további 17 órát vett igénybe a GPT-6 Astra segítségével. A teljes erőfeszítés, minden probléma megoldására, 300 milliárd kimeneti tokent emésztett fel, amit a TechCrunch becslése szerint 22,5 millió dollárra értékeltek a jelenlegi Astra-árakon.

Azonban a bejelentést hitelviták övezik: Tristan Buckmaster, az NYU matematikusa és Levent Alpöge, az Anthropic matematikusa szeptember 7-én publikált egy kényszerített Euler-felrobbanási eredményt, amelyet nagyrészt az OpenAI Codex-szel és a Claude-dal értek el. Buckmaster szerint hónapokat töltöttek a kényszerített útvonalon, és amikor rákérdezett az OpenAI erőfeszítésének kezdetére, a válaszok kitérőek voltak.

Állítása szerint az OpenAI Sébastien Bubeck matematikusa arra kérte, hogy távolítsa el Alpöge kreditjét, és amikor nyilvánosságra akarták hozni, azt válaszolta: „Miért rontanád el a karriered?” Bubeck szerint az OpenAI kutatói nem rendelkeztek folyadékdinamikai szakértelemmel, és a cég nem férhetett hozzá a pár munkájához. Az OpenAI szerint az ő kutatói sem látták a páros munkáját a publikáció előtt, és nem zárható ki, hogy a termékhasználatból származó anonimizált adatok segítették modelljeik javítását.

A tudományos közösség szkepticizmusa

A Clay Institute továbbra is megoldatlannak tartja a problémát, amíg az alapos vizsgálat és széles körű elfogadás nem történik meg, és az OpenAI közölte, hogy nem tart igényt a díjra. Terence Tao matematikus bírálta az intézeteket, amiért a híres problémákat marketing-bizonyítékpontokként kezelik, és 25 Fields-érmes matematikus írt alá egy nyílt levelet, amelyben figyelmeztettek, hogy a sietős bejelentések „súlyos szerzői és plágiumkérdéseket” vetnek fel. Csütörtökön az OpenAI visszavonta egy Caltech-i matematikai rendezvény szponzorálását a kutatók kritikája után.

Anthropic vezérigazgatója a fejlődés lassítását szorgalmazza

Dario Amodei, az Anthropic vezérigazgatója blogbejegyzésében „a határvonal lassítására” szólított fel, és három stratégiát vázolt fel: harmadik fél szervezetek (mint az METR) beágyazott értékelőinek alkalmazása, amelyek „nagyrészt megegyező hozzáféréssel” rendelkeznek a belső kockázatértékelő csapatokhoz; közös biztonsági szabványok kidolgozása a vezető vállalatok között; valamint globális koordináció, beleértve „együttműködést Kínával” a biológiai fegyverek gyártásának tiltása terén.

Amodei szerint a kínai vállalatoknak szánt erős chipek és chipgyártó berendezések eladása, valamint a modell-desztilláció elleni fellépés „jelentősen lassíthatja Kína fejlődését, és megnövelheti Amerika előnyét a következő 3-5 évben”.

Sam Altman, az OpenAI vezérigazgatója egyetértett abban, hogy „lassítani kell a határvonalat”, és az OpenAI is bevezet majd beágyazott értékelőket. Elon Musk, a SpaceX vezérigazgatója is osztotta ezt a véleményt. Brian Merchant újságíró azonban szkeptikus, és úgy véli, hogy az ilyen javaslatok „valószínűleg csak az Anthropic és az OpenAI malmára hajtanák a vizet”.

Belső aggodalmak a biztonságért

Jacob Coxon, aki az OpenAI-nál és az Anthropicnál is dolgozott előképzési kutatóként, kedden kilépett az Anthropic-tól, és azt írta, hogy „egyik vállalat sem viselkedik felelősségteljesen”, és mindketten „életünkkel játszanak”. Evan Hubinger, az Anthropic igazodási tudományok vezetője szerint „nagyon is őszintén hiszünk abban, hogy az AI megölhet minden embert”, és az esélyt 10% fölé becsüli a következő évtizeden belül.

Geoffrey Hinton szerint ez a 10%-os becslés „nem tűnik ésszerűtlennek”. Samuel Marks, az Anthropic skálázható felügyeleti vezetője szerint „minél magasabb rangú az alkalmazott, annál inkább aggódik”. Paul Christiano, aki korábban az OpenAI modelligazítását vezette, szerdán csatlakozott az OpenAI nonprofit alapítványának igazgatótanácsához.