Az AI bűvészmutatványa: a vibe coding rejtett kockázatai

Gyors eredmény, kevés odafigyelés: mit nem veszünk észre, amikor az AI-ra bízzuk a részleteket?
Krisztián P.

Krisztián P.

Operatív vezető

Nemrég nem fejlesztőként, pár nap alatt összeraktam AI segítségével egy működő parkolófoglaló alkalmazást a cégünknek. Reggel még csak egy probléma volt, este már egy webapp, amit a kollégák használnak. Ismerem az érzést, amikor minden kérésre jön egy működő megoldás, és az ember egyre gyorsabban, egyre lelkesebben halad.

Volt néhány pont, ahol ez a lendület majdnem rossz irányba vitt. Az egyik ilyen volt, hogy az alkalmazásnak foglalásokat kellett írnia a Google Naptárba és értesítő e-maileket küldenie. Ehhez normál esetben minden kollégának egyszer engedélyt kell adnia az alkalmazásnak a saját Google Workspace-fiókjában. Az AI felkínált egy egyszerűbb utat: futtassa mindenki az én nevemben, így senkinek nem kell semmit engedélyeznie.

Gyors és kényelmes lett volna. Csakhogy ezzel mindenki, aki az alkalmazást használja, rajtam keresztül fért volna hozzá a naptáramhoz, és az én nevemben küldhetett volna e-mailt. Egy kényelmi döntés miatt a saját fiókomat nyitottam volna meg az egész cégnek. Az AI nem hibázott: pontosan azt oldotta meg, amit kértem. Csak azt nem kérdeztem meg, mibe kerül ez.

Ebben a pillanatban értettem meg hogy annak is van árnyoldala, ahogy az AI gyors eredményei magukkal tudnak húzni. Ezt az árnyoldalt hívom azóta AI bűvészmutatványnak.

Hogyan működik egy bűvésztrükk

A bűvész csodát mutat: eltűnik a kártya, kettévágott ember sétál le a színpadról. A csoda mögött mindig van egy mechanizmus, amit nem látunk. És ez rendben is van: a nézőt nem érdekli a dupla fenekű doboz, ő az élményért ül ott.

A klasszikus felállásban két szereplő van. A bűvész tudja a trükköt, a közönség nem.

Az AI bűvészmutatványában viszont nincs, aki tudná a trükköt. Aki AI-jal fejleszt, egyszerre bűvész és közönség. Ő kéri a mutatványt, ő adja elő, és ő ámul el rajta. Az AI pedig nem rejteget semmit szándékosan: egyszerűen azt hozza, amit kértek tőle. Ha senki nem kérdezi meg, mi van a doboz alján, akkor ezt senki nem is fogja megtudni.

Ez a valódi szemfényvesztés: a trükkel önmagunkat vezetjük meg.

Egy trükk közelről: adatszivárgás egy Google Docs linken keresztül 

Vegyünk egy hétköznapi helyzetet. Valaki egy belső rendszerből szeretne kimutatást készíteni AI segítségével. Az adat a cég belső hálózatán van, az AI eszköz viszont nem éri el.

Megkérdezi az AI-t, hogyan oldja meg. A válasz logikus és gyors: exportálja az adatot egy Google Docsba, állítsa a megosztást „bárki, akinek megvan a link” módra, és adja meg a linket. Két perc, és működik. Látványos eredmény, elégedett felhasználó.

A függöny mögött viszont ez történt: belső, akár személyes vagy üzleti titoknak minősülő adat került egy nyilvánosan elérhető helyre. Nem történt betörés, senki nem támadott. A cég mégis adatszivárgást okozott magának, ráadásul úgy, hogy erről valószínűleg senki nem tud.

Amikor magával ránt a flow

Az AI arra a kérdésre válaszol, amit feltettek neki. Ha a kérés az, hogy „működjön”, akkor a legrövidebb úton fogja működővé tenni. A biztonság, az adatvédelem vagy a karbantarthatóság csak akkor kerül képbe, ha valaki odateszi a kérésbe.

A másik tényező a flow. Ha minden kérésre legfeljebb néhány percen belül megérkezik egy működő megoldás, az ember nem akar megállni. Minden megállás megtöri a lendületet, minden kérdés lassít. Így éppen azok a kérdések maradnak el, amelyek a trükköt felfednék. Ez a bűvészet egyik legrégebbi fogása, a figyelemelterelés: a bűvész oda vezeti a tekintetünket, ahol a csoda történik, a trükk pedig közben egészen máshol zajlik. AI-jal fejlesztve a működő, látványos funkció vonzza a tekintetet, a trükk pedig ott marad, ahová senki nem néz.

És ez nem csak a junior kollégákkal vagy a fejlesztéshez nem értőkkel történik meg. Láttam tapasztalt szakembereket is belecsúszni. A tudás megvan, de a flow annyira magával ragad, hogy közben lankad a figyelem. Az igazi csapda tehát a lankadó figyelem, és sok bűvésztrükk pontosan erre épít.

Mi lapulhat a kabátujjban?

A nyilvános link csak egy példa. Egy gyorsan, figyelem nélkül összerakott szoftverben jellemzően ezek bújnak meg:

  • Kikerülő adat: belső vagy személyes adat olyan helyen, ahol nem kellene lennie.
  • Hiányzó jogosultságkezelés: működik, csak éppen mindenki mindent lát.
  • Kódba írt titkok: jelszavak, API-kulcsok a forráskódban.
  • Ismeretlen függőségek: külső csomagok, amelyeket senki nem ellenőrzött.
  • Licencproblémák: egy korlátozott licenccel rendelkező nyílt forráskódú függőség, amelynek feltételei akár a teljes alkalmazásra kiterjedhetnek.
  • Adatkezelési kérdések: hova megy a személyes adat, milyen jogalapon, ki felel érte.
  • Karbantarthatatlan kód: működik, de senki nem érti, ezért senki nem is meri módosítani.

Egyik sem látszik a demón. Mindegyik akkor jelenik meg, amikor már baj van.

Van helye a vibe codingnak

Ez a cikk nem a vibe coding ellen szól. Egy ötlet kipróbálására, egy szoftver prototípusra, egy belső kísérletre kiváló. Gyorsan megmutatja, hogy valami működhet-e, és sokszor ennyi elég is.

A gond akkor kezdődik, amikor a mutatványt összekeverjük a kész termékkel. Amikor egy vibe codinggal készült alkalmazás csendben éles rendszerré válik, valódi adatokkal, valódi felhasználókkal. Kívülről a kettő ugyanúgy néz ki: mindkettő működik. A különbség a színfalak mögött van.

Ne csak a csodát nézzük

Az AI nem ellenség, és nem is bűvész, aki át akar verni. Eszköz, amely pontosan azt adja, amit kérünk tőle. Éppen ezért a felelősség azon van, aki kér.

A tudatos, AI-támogatott szoftverfejlesztés ezt a felelősséget veszi komolyan. Ugyanazt a sebességet használja ki, de közben felteszi azokat a kérdéseket is, amelyeket a flow elnyomna: hova kerül az adat, ki fér hozzá, mi történik, ha valami elromlik, ki fogja ezt egy év múlva karbantartani.

A vibe codingnak megvan a helye a színpadon: a demókban, a prototípusokban, a kísérletekben. Az éles rendszerekben viszont nem engedhetjük meg, hogy a csoda elterelje a figyelmet a trükkről.

A LogiNetnél pontosan ezekre figyelünk. A több mint 15 év alatt felhalmozott szoftver- és alkalmazásfejlesztési tapasztalatunkra építünk, az AI-t pedig eszközként használjuk: gyorsabbá teszi a munkánkat, és javítja a minőségét. Közben tudatosan figyelünk arra, hogy észrevegyük, ha éppen egy AI bűvésztrükköt látunk. Így tudunk az AI korszakában is olyan szoftvert adni ügyfeleinknek, amely nemcsak látványos, hanem biztonságos és tartósan értékes.

Egy prototípus gyorsan elkészülhet, egy éles rendszer viszont ennél többet kér: átgondolt jogosultságkezelést, biztonságos adatkezelést és olyan kódot, amelyet évek múlva is karban lehet tartani. A LogiNetnél az AI gyorsaságát több mint 19 év szoftverfejlesztési tapasztalattal párosítjuk, hogy a fontos kérdések már a tervezésnél előkerüljenek, ne csak akkor, amikor már baj van. Keress minket, és nézzük meg együtt, mire van szükségetek.
Krisztián P.

Krisztián P. Krisztián P. LinkedIn profilja

Operatív vezető
A LogiNet egy több mint 15 éves tapasztalattal rendelkező szoftverfejlesztő csapat, ahol egyedi webes platformok, üzleti alkalmazások és komplex portálrendszerek tervezése és fejlesztése a mindennapi munka része. Nem sablonokban gondolkodunk: minden rendszert az adott üzleti működéshez illesztünk, legyen szó ügyfélportálról, partnerplatformról vagy integrációkkal átszőtt vállalati megoldásról.