Gyerekek százszor hatékonyabban tanulnak nyelvet, mint az AI, új kutatási irányt nyithat
Az LLM-eknek akár százezerszer több szóra van szükségük a nyelv elsajátításához, mint egy gyermeknek, ami jelentős adat-hatékonysági rést mutat.
A számítógépek emberi nyelven való tanítása példátlan mennyiségű adatot igényel. Egy nagy nyelvi modell (LLM) könnyedén feldolgozhat százezer-szer több szót, mint amennyit egy ember tapasztal édesanyanyelve elsajátítása során. Ez a hatalmas különbség a gyermekek és a gépek között a „data efficiency gap”, vagyis az adat-hatékonysági rés.
A jelenség izgalmas kérdést vet fel a kognitív tudósok számára, és kihívást jelent az AI-modellek fejlesztői számára: hogyan lehetséges, hogy a gyermekek még mindig jobban teljesítenek a valaha épített legfejlettebb nyelvi gépeknél? A gyerekek azt mutatják, hogy kevesebből is lehet többet tanulni. A kutatók remélik, hogy a gyerekek tanulási módjának megértésével hatékonyabb AI-modelleket lehet létrehozni, és talán örök kérdéseket is megválaszolni a nyelvfejlődésről — írja az MIT Technology Review.
Az adat-hatékonysági rés mértéke
A kutatók megpróbálják csökkenteni az adat-hatékonysági rést. Az LLM-ek jelenlegi adatigénye nemcsak a képzési költségeket növeli, hanem korlátozza a modellek általánosíthatóságát is. Ha sikerül a gyermekek tanulási stratégiáiból elveket meríteni, az AI-modellek képzése drasztikusan felgyorsulhat, és talán közelebb kerülhetünk az emberi intelligencia megértéséhez is.
Kutatási bizonytalanságok
A pontos „százezerszer több szó” adat nem egzakt szám, hanem becslés, amely tanulmányonként eltérhet. A sem teljesen világos még, hogy pontosan mely tanulási mechanizmusok adják a gyermekek előnyét. A sem garantált, hogy a gyermekek tanulásából nyert felismerések valóban lényegesen hatékonyabb AI-modellekhez vezetnek majd. A témát az MIT Technology Review vizsgálta meg.