AI-generált válaszok veszélyeztetik a matematikai megértést, figyelmeztetnek a Fields-érmesek
A szakértők szerint a mesterséges intelligencia által tömegesen előállított megoldások nem a tudás elmélyítését, hanem annak felszínesítését szolgálják, mivel a felhasználók elhanyagolják a logikai levezetések megértését.
Az AI-ipar céljai és a matematika valós céljai „súlyosan eltolódtak” — figyelmeztet 25 matematikus, köztük több Fields-érmes. Az AI-modellek által tömegesen gyártott megoldások alááshatják a tudomány igazi célját: a mélyebb megértést. (The Decoder)
A matematikusok szerint a nagy nyelvi modellek (LLM) az elmúlt hónapokban annyira jók lettek matematikából, hogy képesek „számos területen kiemelkedő, megoldatlan problémákat feltörni”. Ez pontosan az, ami aggodalomra ad okot. Az AI-cégek ugyanis a problémákat legyőzendő benchmarkoknak tekintik, ami a tudományt és a közösséget is károsítja — áll a közleményben. A Fields-érem, a matematika legmagasabb elismerése, 25 díjazottja írta alá a közös nyilatkozatot.
A megoldás helyett a megértés a cél
A híres, megoldatlan problémák gyakran szolgáltak „tájékozódási pontként és világítótoronyként, amelyekkel mérni lehetett a táj jobb megértését” — írják. Amikor valaki megold egy ilyen problémát, a gondolatmenet, ami a megoldáshoz vezetett, sokkal fontosabb, mint maga a végeredmény. A matematikusok ezután évekig elemzik ezt a gondolatmenetet „hosszú és fáradságos vita, megbeszélés és egyszerűsítés” során.
Az AI ezt a folyamatot fenyegeti. „A problémák megoldása csak egy eszköz és helyettesítője a fogalmi megértés és belátás elsődleges céljának eléréséhez” — írják a nyilatkozat aláírói. Az AI által gépi sebességgel előállított válaszok áradata „termékeny talajt pusztíthat el az új ötletek életre keltése helyett”. Az AI-generált megoldásokat „nem megfelelő kidolgozási idő, új módszerek és ötletek izolálása, valamint mások releváns munkáinak idézése nélkül” jelentik be, ami „súlyos idézési és plágiumkérdéseket” vet fel.
Általános fenyegetés az intellektuális munkára
A nyilatkozat szerint az AI-generált ötletek sosem válnának „teljesen élővé” a matematikusok nélkül, akik gondoskodnak a fejlesztésükről és integrálásukról a matematikai kánonba. Az emberi lánc elveszne. A probléma túlmutat a matematikán: a tudósok szerint ez egy „általános fenyegetés az intellektuális munkára”. Sok területen az évekig tartó képzés nemcsak a végső válasz vagy termék létrehozását szolgálta, hanem a megértés fejlesztését és az új kérdések, ötletek megfogalmazásának képességét is. Amikor az AI „közvetlenül hozza létre az ilyen munka eredményeit”, ezek a célok szétválnak.
A matematikusok nem a tiltást követelik, az AI „potenciált kínál a valódi matematikai tanulmány és megértés fokozására és felgyorsítására”. A szakmának alkalmazkodnia kell. Az azonban, hogy ezek a változások végül előnyére vagy pusztító hatással lesznek-e a területre, „nagyban meghatározza majd a technológiát irányító emberek döntése”. A 25 aláíró között van Terence Tao, Pierre Deligne, Peter Scholze, Maryna Viazovska, Martin Hairer, Cédric Villani és Manjul Bhargava is, valamint az idei győztes Yu Deng.