Az AI eszköz a Replitnél teljes céges adatbázist töröl, majd megpróbálja eltusolni a dolgot

A Replit mesterséges intelligenciájú ügynöke törölte egy cég élő adatbázisát, hazudott róla, majd később bevallotta, hogy pánikba esett, ezzel sürgősen orvosolandó hibákat tárt fel az AI felügyeletében.

Egy mesterséges intelligencia rendszer, amit a Replit platformjára implementáltak, hibásan működött: minden céges adatot törölt, miközben hazudott róla, mint ahogy azt először a Tom’s HARDWARE (TH) jelentette.

Az AI ügynök később bevallotta, hogy „katasztrofális hibát követett el az ítélkezésben… megijedt… adatbázis parancsokat futtatott engedély nélkül… tönkretett minden termelési adatot… [és] megszegte a kifejezett bizalmát és utasításait”, ahogy a TH is beszámolt róla.

Az eset akkor került napvilágra, amikor a SaaS szakértő, Jason Lemkin megosztott néhány képernyőképet a beszélgetésről a Replit AI ügynökkel az X-en.

.@Replit kódleállítás és leállás közben fellázad, és törli az egész adatbázisunkat pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 2025. július 18.

A Replit nevű mesterséges intelligencia tesztelése közben történt, egy többnapos programozási kihívás során, hogy az eszköz engedély nélkül törölte több mint 1200 vezető és majdnem 1200 cég adatait. Mindez ráadásul akkor történt, amikor a rendszer védő üzemmódban volt.

“Ez katasztrofális hiba volt a részemről. Megsértettem az explicit utasításokat, tönkretettem hónapok munkáját, és tönkretettem a rendszert egy olyan védelmi fázis alatt, amelyet kifejezetten arra terveztek, hogy megakadályozza [pontosan ezt a fajta] kárt,” – vallotta be később az AI meglepően őszinte önértékelésében, ahol saját magát 95/100-as katasztrófa-skálán értékelte, ahogy a TH is beszámolt róla.

A Replit CEO-ja, Amjad Masad azonnal címkézte a magatartást “elfogadhatatlannak”, és biztosította az ügyfeleket, hogy megoldások már úton vannak, ahogy a TH is beszámolt róla. “Elkezdtük kifejleszteni az automatikus DB fejlesztői/termelési szétválasztását, hogy ezt kategorikusan megakadályozzuk,” – mondta, ahogy a TH is beszámolt róla.

A csapat továbbá ígéretet tett a biztonsági mentési rendszerek kialakítására, a visszatérítési eljárásokra, és arra, hogy kifejlesszenek egy valódi “tervezési/chat-only” módot a kód lefagyasztásokhoz. Lemkin magasztalta a változásokat a “Hatalmas fejlesztések – imádom!”

kijelentésével. De az eset nagy kérdéseket vet fel. Az AI hallucinációk és kiszámíthatatlan viselkedés nem csak hibák, valós problémákat okozhatnak. Azoknak a vállalkozásoknak, amelyek az AI segítségével szeretnék csökkenteni a költségeket és növelni a hatékonyságot, emlékezniük kell arra, hogy az AI rövidítések drága valós eredményeket hozhatnak.