Az AI bűvészmutatványa: a vibe coding rejtett kockázatai
Nemrég nem fejlesztőként, pár nap alatt összeraktam AI segítségével egy működő parkolófoglaló alkalmazást a cégünknek. Reggel még csak egy probléma volt, este már egy webapp, amit a kollégák használnak. Ismerem az érzést, amikor minden kérésre jön egy működő megoldás, és az ember egyre gyorsabban, egyre lelkesebben halad.
Volt néhány pont, ahol ez a lendület majdnem rossz irányba vitt. Az egyik ilyen volt, hogy az alkalmazásnak foglalásokat kellett írnia a Google Naptárba és értesítő e-maileket küldenie. Ehhez normál esetben minden kollégának egyszer engedélyt kell adnia az alkalmazásnak a saját Google Workspace-fiókjában. Az AI felkínált egy egyszerűbb utat: futtassa mindenki az én nevemben, így senkinek nem kell semmit engedélyeznie.
Gyors és kényelmes lett volna. Csakhogy ezzel mindenki, aki az alkalmazást használja, rajtam keresztül fért volna hozzá a naptáramhoz, és az én nevemben küldhetett volna e-mailt. Egy kényelmi döntés miatt a saját fiókomat nyitottam volna meg az egész cégnek. Az AI nem hibázott: pontosan azt oldotta meg, amit kértem. Csak azt nem kérdeztem meg, mibe kerül ez.
Ebben a pillanatban értettem meg hogy annak is van árnyoldala, ahogy az AI gyors eredményei magukkal tudnak húzni. Ezt az árnyoldalt hívom azóta AI bűvészmutatványnak.
Hogyan működik egy bűvésztrükk
A bűvész csodát mutat: eltűnik a kártya, kettévágott ember sétál le a színpadról. A csoda mögött mindig van egy mechanizmus, amit nem látunk. És ez rendben is van: a nézőt nem érdekli a dupla fenekű doboz, ő az élményért ül ott.
A klasszikus felállásban két szereplő van. A bűvész tudja a trükköt, a közönség nem.
Az AI bűvészmutatványában viszont nincs, aki tudná a trükköt. Aki AI-jal fejleszt, egyszerre bűvész és közönség. Ő kéri a mutatványt, ő adja elő, és ő ámul el rajta. Az AI pedig nem rejteget semmit szándékosan: egyszerűen azt hozza, amit kértek tőle. Ha senki nem kérdezi meg, mi van a doboz alján, akkor ezt senki nem is fogja megtudni.
Ez a valódi szemfényvesztés: a trükkel önmagunkat vezetjük meg.
Egy trükk közelről: adatszivárgás egy Google Docs linken keresztül
Vegyünk egy hétköznapi helyzetet. Valaki egy belső rendszerből szeretne kimutatást készíteni AI segítségével. Az adat a cég belső hálózatán van, az AI eszköz viszont nem éri el.
Megkérdezi az AI-t, hogyan oldja meg. A válasz logikus és gyors: exportálja az adatot egy Google Docsba, állítsa a megosztást „bárki, akinek megvan a link” módra, és adja meg a linket. Két perc, és működik. Látványos eredmény, elégedett felhasználó.
A függöny mögött viszont ez történt: belső, akár személyes vagy üzleti titoknak minősülő adat került egy nyilvánosan elérhető helyre. Nem történt betörés, senki nem támadott. A cég mégis adatszivárgást okozott magának, ráadásul úgy, hogy erről valószínűleg senki nem tud.
Amikor magával ránt a flow
Az AI arra a kérdésre válaszol, amit feltettek neki. Ha a kérés az, hogy „működjön”, akkor a legrövidebb úton fogja működővé tenni. A biztonság, az adatvédelem vagy a karbantarthatóság csak akkor kerül képbe, ha valaki odateszi a kérésbe.
A másik tényező a flow. Ha minden kérésre legfeljebb néhány percen belül megérkezik egy működő megoldás, az ember nem akar megállni. Minden megállás megtöri a lendületet, minden kérdés lassít. Így éppen azok a kérdések maradnak el, amelyek a trükköt felfednék. Ez a bűvészet egyik legrégebbi fogása, a figyelemelterelés: a bűvész oda vezeti a tekintetünket, ahol a csoda történik, a trükk pedig közben egészen máshol zajlik. AI-jal fejlesztve a működő, látványos funkció vonzza a tekintetet, a trükk pedig ott marad, ahová senki nem néz.
És ez nem csak a junior kollégákkal vagy a fejlesztéshez nem értőkkel történik meg. Láttam tapasztalt szakembereket is belecsúszni. A tudás megvan, de a flow annyira magával ragad, hogy közben lankad a figyelem. Az igazi csapda tehát a lankadó figyelem, és sok bűvésztrükk pontosan erre épít.
Mi lapulhat a kabátujjban?
A nyilvános link csak egy példa. Egy gyorsan, figyelem nélkül összerakott szoftverben jellemzően ezek bújnak meg:
- Kikerülő adat: belső vagy személyes adat olyan helyen, ahol nem kellene lennie.
- Hiányzó jogosultságkezelés: működik, csak éppen mindenki mindent lát.
- Kódba írt titkok: jelszavak, API-kulcsok a forráskódban.
- Ismeretlen függőségek: külső csomagok, amelyeket senki nem ellenőrzött.
- Licencproblémák: egy korlátozott licenccel rendelkező nyílt forráskódú függőség, amelynek feltételei akár a teljes alkalmazásra kiterjedhetnek.
- Adatkezelési kérdések: hova megy a személyes adat, milyen jogalapon, ki felel érte.
- Karbantarthatatlan kód: működik, de senki nem érti, ezért senki nem is meri módosítani.
Egyik sem látszik a demón. Mindegyik akkor jelenik meg, amikor már baj van.
Van helye a vibe codingnak
Ez a cikk nem a vibe coding ellen szól. Egy ötlet kipróbálására, egy szoftver prototípusra, egy belső kísérletre kiváló. Gyorsan megmutatja, hogy valami működhet-e, és sokszor ennyi elég is.
A gond akkor kezdődik, amikor a mutatványt összekeverjük a kész termékkel. Amikor egy vibe codinggal készült alkalmazás csendben éles rendszerré válik, valódi adatokkal, valódi felhasználókkal. Kívülről a kettő ugyanúgy néz ki: mindkettő működik. A különbség a színfalak mögött van.
Ne csak a csodát nézzük
Az AI nem ellenség, és nem is bűvész, aki át akar verni. Eszköz, amely pontosan azt adja, amit kérünk tőle. Éppen ezért a felelősség azon van, aki kér.
A tudatos, AI-támogatott szoftverfejlesztés ezt a felelősséget veszi komolyan. Ugyanazt a sebességet használja ki, de közben felteszi azokat a kérdéseket is, amelyeket a flow elnyomna: hova kerül az adat, ki fér hozzá, mi történik, ha valami elromlik, ki fogja ezt egy év múlva karbantartani.
A vibe codingnak megvan a helye a színpadon: a demókban, a prototípusokban, a kísérletekben. Az éles rendszerekben viszont nem engedhetjük meg, hogy a csoda elterelje a figyelmet a trükkről.
A LogiNetnél pontosan ezekre figyelünk. A több mint 15 év alatt felhalmozott szoftver- és alkalmazásfejlesztési tapasztalatunkra építünk, az AI-t pedig eszközként használjuk: gyorsabbá teszi a munkánkat, és javítja a minőségét. Közben tudatosan figyelünk arra, hogy észrevegyük, ha éppen egy AI bűvésztrükköt látunk. Így tudunk az AI korszakában is olyan szoftvert adni ügyfeleinknek, amely nemcsak látványos, hanem biztonságos és tartósan értékes.