Az AI megírta. Üzemeltetni ki fogja?
A múlt héten megkeresett egy ügyfél. Összerakott egy szoftvert autószervizeknek — mesterséges intelligenciával, gyakorlatilag kód-tudás nélkül. Működik. Szép. Az ügyfelei szeretik. Talált is rá pár vevőt. Szeretné élesben kipróbálni. Ebből lesz lambó jövőre. :)
Azt kérte, nézzem át, mielőtt komolyabban skálázná.
Mondtam: átnézem, nem kérek érte semmit. Érdekelnek amúgy is az ilyen projektek.
Elég jól nézett ki elsőre. Látszik, Claude-dal jól elbeszélgetett előtte emberünk. Nem összecsapott cucc.
A rossz hír, hogy találtam benne pár olyan dolgot, amit az AI soha nem fog észrevenni, ha te nem mondod meg neki, mit kell keresnie. Itt a mágikus "Keress biztonsági hibákat!" meg hasonló varázsszavak nem segítenek.
Az adatbázis-beállítások miatt kb. 20-30 ügyfélnél a rendszer elkezd fulladozni. Nem becslés — ott van a kódban a szám, feketén-fehéren. Csak épp senki nem tudta, hogy ez mit jelent. Nem gondolta senki, hogy fontos...
A biztonsági mentésről senki nem tudta megmondani, működik-e. (Azt se, hogy van-e egyáltalán.) Soha senkiben nem merült fel, hogy ez egy kritikus pont. Egy ki nem próbált, nem létező mentés — az egy remény. Hátha nem hasal el soha.
És volt egy törlés-funkció, ami tényleg töröl — véglegesen, visszahozhatatlanul, örökre — ügyfél-fotókat. Egy rossz kattintás, és nincs többé ügyféladat.
Semmi ördöngösség. Az AI hibátlanul megírta, amit kértek tőle. Csak azt nem írta meg, amit nem kértek — mert nem tudták, hogy kérni kéne.
Ez most a legnagyobb csapda a szoftverek és weboldalak világában: elkészíteni valamit sosem volt ilyen könnyű. Életben tartani sosem volt ilyen nehéz. Az általános szoftverfejlesztők azért ekkorákat nem hibáztak.
Vagy ha igen, legalább az értelmesebbje előtte csinált róla egy biztonsági mentést a saját gépére.
Én az elmúlt 10+ évben pont ezt csináltam: mások rendszereit tartottam életben.