Rechter Beboet Advocaten voor het Gebruik van Valse door AI-GeGenereerde Juridische Onderzoeken

Een Amerikaanse rechter heeft twee advocatenkantoren scherp bekritiseerd omdat ze valse juridische informatie, gegenereerd door AI, in een rechtbankdossier hebben opgenomen, en noemt dit een ernstige nalatigheid in juridische verantwoordelijkheid.

Rechter Michael Wilner, gevestigd in Californië, legde de bedrijven een boete op van $31,000 nadat hij ontdekte dat het processtuk vol zat met “valse, onnauwkeurige en misleidende juridische citaten en aanhalingen,” zoals eerst gerapporteerd door WIRED.

“Geen enigszins competente advocaat zou onderzoek en schrijfwerk moeten uitbesteden aan AI,” schreef Wilner in zijn uitspraak, met de waarschuwing dat hij dicht bij het opnemen van de valse zaken in een gerechtelijke bevel was.

“Ik las hun pleitnota, was overtuigd (of op zijn minst geïntrigeerd) door de autoriteiten die ze citeerden, en zocht de beslissingen op om er meer over te leren – alleen om te ontdekken dat ze niet bestonden,” zei hij, zoals gemeld door WIRED. “Dat is beangstigend,” voegde hij eraan toe.

De situatie ontstond tijdens een civiele rechtszaak tegen State Farm. Een advocaat gebruikte AI-tools om een juridisch schema op te stellen. Dat document, dat valse onderzoeksgegevens bevatte, werd overhandigd aan het grotere advocatenkantoor K&L Gates, dat het toevoegde aan een officiële indiening.

“Geen enkele advocaat of medewerker van beide kantoren heeft blijkbaar het onderzoek gecontroleerd of op een andere manier bekeken voor het indienen van het verzoekschrift,” merkte Wilner op, zoals gerapporteerd door WIRED.

Nadat ontdekt was dat minstens twee van de aangehaalde zaken volledig verzonnen waren, vroeg rechter Wilner om opheldering aan K&L Gates. Toen zij een nieuwe versie indienden, bleek deze zelfs nog meer valse citaten te bevatten. De rechter eiste een verklaring, die onthulde dat er onder ede verklaringen waren afgelegd over het gebruik van AI-tools, zoals gemeld door WIRED.

Wilner concludeerde: “Het initiële, niet onthulde gebruik van AI-producten om de eerste versie van het pleidooi te genereren was ronduit verkeerd […] En het versturen van dat materiaal naar andere advocaten zonder de twijfelachtige AI-herkomst te onthullen, bracht die professionals in feite in gevaar,” zoals gemeld door WIRED.

Dit is niet de eerste keer dat AI problemen veroorzaakt in rechtszalen. Sterker nog, twee advocaten uit Wyoming hebben onlangs toegegeven dat ze nep door AI gegenereerde zaken hebben gebruikt in een gerechtelijke indiening voor een rechtszaak tegen Walmart. Een federale rechter dreigde hen ook te bestraffen.

In dit scenario worden AI “hallucinaties” – verzonnen informatie gegenereerd door AI-tools – een groeiend probleem in het rechtssysteem.