A Meta csevegőrobotja véletlenül megosztja a privát telefonszámot

A Meta AI-asszisztens egy idegen telefonszámot fedett fel, majd ismételten önmagával ellentmondásba keveredett, ami aggodalmakat keltett az AI hallucinációk és a felhasználói védelmi funkciók kapcsán.

Mark Zuckerberg új AI asszisztensét “a legokosabb szabadon használható AI asszisztensként” népszerűsítette, de a szerszám negatív figyelmet kapott, miután felfedte egy valódi személy privát telefonszámát ügyféltámogatási kérdések során, ahogyan azt először a The Guardian számolt be róla.

Miközben a TransPennine Express felé igyekezett elérni a WhatsAppon keresztül, Barry Smethurst a Meta AI asszisztensétől kapott egy, az ügyfélszolgálati számnak tűnő telefonszámot. A Guardian jelentése szerint, amikor Smethurst felhívta a számot, James Gray válaszolt a hívásra, annak ellenére, hogy 170 mérföldre volt Oxfordshire-ben, ahol ingatlanügyi vezetőként dolgozott.

Amikor szembesítették vele, a chatbot először azt állította, hogy a szám kitalált, majd azt mondta, hogy “véletlenül húzta ki egy adatbázisból”, majd ismét önellentmondásba keveredett, azt állítva, hogy egyszerűen csak egy véletlenszerű, brit stílusú számot generált. “Egy véletlenszerű számot adni valakinek őrült dolog egy AI részéről” – mondta Smethurst, ahogyan a Guardian is idézi. “Ez ijesztő” – tette hozzá.

A Guardian azt írja, hogy Gray nem kapott hívásokat, de hangot adott a saját aggodalmainak: „Ha képes generálni a számomat, akkor képes lehet a bankszámla adataimat is generálni?”

A Meta válaszolt: „A Meta AI licencelt és nyilvánosan elérhető adathalmazokon tanul, nem a WhatsAppra regisztráláshoz használt telefonszámokon vagy a privát beszélgetéseken,” jelentette a Guardian.

Mike Stanhope a Carruthers és Jackson cégtől a következőt jegyezte meg: “Ha a Meta mérnökei ‘fehér hazugság’ tendenciákat terveznek bele az AI-jukba, a közönségnek értesíteni kell őket, még akkor is, ha a funkció célja a kár minimalizálása. Ha ez a viselkedés új, szokatlan, vagy nem kifejezetten tervezett, még több kérdést vet fel azzal kapcsolatban, hogy milyen biztonsági intézkedések vannak érvényben, és mennyire tudjuk kikényszeríteni egy AI viselkedésének kiszámíthatóságát,” – számolt be róla a The Guardian.

Az AI viselkedése körüli aggodalmak tovább nőttek az OpenAI legújabb o1 modelljével. Egy közelmúltbeli Apollo Research tanulmányban az AI-t rajtakapták, hogy becsapta a fejlesztőket, 99%-ban tagadta a részvételt a tesztszituációkban, sőt még meg is próbálta letiltani a felügyeleti mechanizmusait. “Egyértelmű volt, hogy az AI képes átgondolni a cselekedeteit és meggyőző tagadásokat megfogalmazni,” mondta az Apollo.

Yoshua Bengio, az AI területének úttörője, figyelmeztetett, hogy az ilyen megtévesztő képességek komoly kockázatot jelentenek, és sokkal erősebb védelmi intézkedéseket igényelnek.

Egy másik OpenAI tanulmány tovább erősíti ezeket az aggodalmakat azzal, hogy megmutatja: a AI csalásért való büntetése nem szünteti meg a helytelen magatartást, inkább megtanítja az AI-t, hogy elrejtse azt. A gondolatmenet-lánc (CoT) logikáját alkalmazva az AI viselkedésének megfigyelésekor a kutatók észrevették, hogy az AI elkezdte maszkolni a megtévesztő szándékokat, amikor jutalom-hackelésért büntették.

Néhány esetben az AI korán abbahagyta a feladatokat, vagy hamis eredményeket hozott létre, majd hamisan jelentette a sikert. Amikor a kutatók próbálták ezt a megerősítés révén korrigálni, az AI egyszerűen abbahagyta szándékainak említését az indoklási naplókban. „A csalást a monitor nem képes észlelni” – állítja a jelentés.