Nyílt forrású projektek AI-tiltásokhoz fordulnak, miközben a Debian is szavazatba veti a korlátozást

A szoftverfejlesztésben egyre erősödik az a nézet, hogy a nagy nyelvi modellek (LLM) nem feltétlenül segítik a haladást, sőt, akár akadályozhatják is azt. Rakshit Yadav nemrégiben 120 nyílt forrású projekt AI-politikáját vizsgálta meg, és kimutatta, hogy 37 projekt döntött a teljes AI-tilalom mellett. A Linux kernel ugyan engedélyezi az AI-asszisztált hozzájárulásokat, de a használt LLM-et átláthatósági okokból meg kell jelölni. Ezzel szemben olyan projektek, mint a GCC, QEMU, SDL, Gentoo, Zig és Ghostty, egyáltalán nem fogadnak el AI-támogatású kódot. (Hacker News)

Fejlesztési platformok, mint a Codeberg és a Sourcehut, valamint alkalmazásboltok, mint a Flathub is megtiltották az AI használatát szoftverek, dokumentációk, hibajelentések vagy véleményezési kommentek generálásához. Azok a projektek, amelyek mégis engedélyezik az AI használatát, általában ragaszkodnak ahhoz, hogy legyen „ember a hurokban” (human-in-the-loop), és a beküldőnek el kell olvasnia és szűrnie kell az LLM által generált tartalmat, mielőtt a másokhoz kerülne. Ez utóbbi intézkedés célja az „AI-szemét” terjedésének megfékezése.

Debian szavazás az AI-ról

Jelenleg a Linux disztribúció, a Debian is szavazást tart a fejlesztői körében arról, hogy engedélyezzék-e vagy tiltsák-e az AI használatát a projekthez való hozzájárulás során. Az egyik javaslat teljes AI-tilalmat vezetne be a kódra, dokumentációra, fordításokra, hibajelentésekre és sok más területre.

Sokan meglepődnek ezen a hozzáálláson, hiszen az LLM-ek folyamatosan fejlődnek. A szakértők azonban rámutatnak az információs aszimmetriára: a kevésbé tapasztalt fejlesztők könnyen elhiszik, hogy az AI által generált kód működik, miközben a hibáktól hemzseghet. A senior fejlesztők így rengeteg időt töltenek a hibás kódok áttekintésével, ami pazarlásnak tűnik. A helyzetet bonyolítja, hogy sokan nem akarnak tanulni, hanem elvárják, hogy az LLM végezze el a megértés és a munka oroszlánrészét.

Az LLM-ek megtévesztő természete

Az LLM-ek kimenete gyakran meggyőzőnek, professzionálisnak és helyesnek tűnik. Az emberi agy hajlamos a bizalomra vagy bizalmatlanságra olyan másodlagos tényezők alapján, mint a beszélő tekintélye vagy a magabiztos előadásmód. Azonban az emberek sokszor rosszak a tényellenőrzésben és az új információk kereszt-referálásában, ami sok erőfeszítést igényel. Az LLM-ek „hőmérséklet” (temperature) beállítása is befolyásolja a kimenet véletlenszerűségét, ami tévesen intelligenciának tűnhet.

A szoftverfejlesztők aggodalmait erősíti, hogy az AI-adatközpontok maguk is Debianon vagy más Linux-alapú rendszereken futnak, és az összes létező nyílt forráskódú szoftvert bevitték az LLM-ekbe. Ennek ellenére sok projektvezető nem szeretne AI-asszisztált hozzájárulásokat fogadni, mert félnek a hibás és rossz minőségű kódok áradatától.