Bíró Büntet Ügyvédeket Hamis AI-Által Generált Jogi Kutatás Használatáért

Egy amerikai bíró élesen bírálta a két jogi irodát amiatt, hogy mesterséges intelligencia által generált hamis jogi információkat tartalmaztak egy bírósági beadványban, ezt nagy mulasztásnak minősítve a jogi felelősségvállalásban.

Michael Wilner bíró, aki Kaliforniában dolgozik, 31 000 dollár bírságot szabott ki a cégekre, miután felfedezte, hogy a rövidített indítvány tele volt „hamis, pontatlan és félrevezető jogi hivatkozásokkal és idézetekkel”, amint azt először a WIRED számolt be róla.

“Egy ésszerűen hozzáértő ügyvédnek nem szabadna kutatást és írást kiadnia AI-nak” – írta Wilner az ítéletében, figyelmeztetve, hogy közel állt ahhoz, hogy a hamis ügyeket belefoglalja a bírói rendelkezésbe.

“Elolvastam az érvelésüket, meggyőzőnek (vagy legalábbis érdekesnek) találtam a hivatkozott jogi eseteket, és utánanéztem a döntéseknek, hogy többet megtudjak róluk – csak azért, hogy azt találjam, hogy nem léteznek” – mondta, ahogy a WIRED számolt be róla. “Ez ijesztő” – tette hozzá.

A helyzet egy State Farm elleni polgári per során merült fel. Egy ügyvéd AI eszközöket használt egy jogi vázlat elkészítéséhez. Az a dokumentum, mely hamis kutatást tartalmazott, a nagyobb ügyvédi irodának, a K&L Gates-nek került átadásra, amely hivatalos beadásban szerepeltette.

„Egyetlen ügyvéd vagy munkatárs sem ellenőrizte látszólag a kutatást, mielőtt benyújtották a rövidítést,” jegyezte meg Wilner, ahogy a WIRED is beszámolt róla.

Miután kiderült, hogy legalább két idézett esetet teljesen kitaláltak, Wilner bíró megkérte a K&L Gates-től a tisztázást. Amikor benyújtottak egy új verziót, kiderült, hogy még több hamis hivatkozást tartalmaz. A bíró magyarázatot követelt, ami nyilatkozatokat tár föl, melyekben elismerték az AI eszközök használatát, ahogyan azt a WIRED is jelentette..

Wilner a következőképpen zárta le: “Az AI termékek kezdeti, titkos használata, hogy előállítsák a vélemény első vázlatát, egyértelműen rossz volt […] És ennek az anyagnak a továbbítása más ügyvédeknek anélkül, hogy felfedték volna kétes AI eredetét, valóságos veszélybe sodorta ezeket a szakembereket,”ahogyan azt a WIRED is közölte.

Ez nem az első alkalom, hogy az AI gondot okoz a bíróságokon. Sőt, nemrég két wyomingi ügyvéd beismerte, hogy hamis AI-által generált eseteket használtak egy Walmart elleni per bírósági beadványában. Egy szövetségi bíró szankcióval fenyegette őket is.

Ebben a forgatókönyvben az AI “hallucinációk” – azaz az AI eszközök által előállított kitalált információk – egyre nagyobb aggodalomra adnak okot a jogrendszerben.