AI Ügynököket Átejtenek Hamis Emlékekkel, Lehetővé Téve a Kriptovaluta Lopást

Egy új kutatás komoly biztonsági sérülékenységeket tárt fel a Web3 AI-támogatott ügynökeiben, amelyek lehetővé teszik a támadók számára, hogy hamis emlékeket használjanak fel jogosulatlan kriptovaluta-átutalások végrehajtásához.

A Princeton Egyetem és a Sentient Alapítvány kutatói felfedezték, hogy ezek az AI ügynökök, amelyeket blockchain-alapú feladatokra, mint például kriptovaluta-kereskedelem és digitális eszközök kezelése terveztek, sebezhetőek egy olyan taktika számára, amit kontextus manipulációnak neveznek.

A támadás úgy működik, hogy olyan platformok memóriarendszereit veszi célba, mint az ElizaOS, amely mesterséges intelligencia ágenseket hoz létre decentralizált alkalmazásokhoz. Ezeknek az ügynököknek a memóriarendszere tárolja a korábbi beszélgetéseket, hogy azokat útmutatónak használják a jövőbeni döntéseikhez.

A kutatók bemutatták, hogy a támadók félrevezető parancsokat tudnak beépíteni a memóriarendszerbe, ami arra készteti a mesterséges intelligenciát, hogy az eredetileg szándékozott tárcából pénzt küldjön egy támadó által ellenőrzött tárcába. Riasztó módon, ezek a hamis emlékek át tudnak vándorolni platformok között.

Például egy Discordon kompromittált ügynök később hibás átutalásokat tehet az X-en keresztül, anélkül, hogy rájönne, valami nincs rendben.

Ezt különösen veszélyessé teszi, hogy a szokásos védelmi intézkedések nem tudják megállítani ezt a típusú támadást. A hamis emlékek valódi utasításként való kezelése hatástalanná teszi az alapvető prompt alapú biztonsági intézkedéseket ezzel a támadási módszerrel szemben.

Az összes blokklánc tranzakció végleges lesz, tehát nincs mód a lopott alapok visszaállítására. A probléma súlyosbodik, mert bizonyos AI ügynökök memóriát tárolnak több felhasználónál, így egyetlen biztonsági incidens több felhasználót is érinthet.

A kutatócsoport több módszert is tesztelt ennek megelőzésére, beleértve az AI képzésének módosítását és a tranzakciókhoz kézi jóváhagyás szükségességét. Bár ezek a megközelítések bizonyos reményt kínálnak, azzal a költséggel járnak, hogy lelassítják az automatizálást.

A probléma túlmutat a kriptovalutákon. Ugyanez a sebezhetőség érintheti az általános célú AI-asszisztenseket is, adatszivárgásokat vagy káros tevékenységeket kockáztatva, ha a támadók megváltoztatják a memóriájukat.

Ez a sebezhetőség különösen riasztó a legutóbbi eredmények fényében, ahol az IT vezetők 84%-a ugyanolyan, vagy nagyobb mértékben bízik az AI ügynökökben, mint az emberi munkatársakban, és 92% várja, hogy ezek a rendszerek 12-18 hónapon belül üzleti eredményeket hozzanak.

A probléma kezelése érdekében a kutatók egy CrAIBench nevű eszközt adtak a fejlesztők kezébe, hogy segítsenek tesztelni a rendszereiket és erősebb védelmi mechanizmusokat építeni. Addig is a szakértők arra figyelmeztetnek a felhasználókat, hogy legyenek óvatosak, amikor pénzügyi döntéseiket mesterséges intelligencia által vezérelt ügynökökre bízzák.