New Mexico straffer advokat for ChatGPTs falske vidner
Stephen Aarons lagde en drabssags udskrift ind i OpenAI-modellen o3 og indleverede et indlæg med opdigtede vidner. Nu er han i foragt for retten.
Vidner der aldrig var i retten
New Mexicos øverste domstol har holdt advokaten Stephen Aarons i direkte foragt for retten. Hans appelindlæg i en drabssag indeholdt »falsk vidneudsagn fra fuldstændigt opdigtede vidner«, står der i kendelsen.
Blandt de opdigtede vidner var betjentene Michelle Amarillo og Sanchez samt Manal Al-Jibury og Teresa Marquez. Aarons har været forsvarsadvokat i New Mexico i over 40 år og var hyret af familien til en dømt mand for at appellere sagen.
- Bøde til State Bar of New Mexico Client Protection Fund
- 5.000 dollar
- Navngivet i domstolens kendelse: officer Michelle Amarillo, officer Sanchez, Manal Al-Jibury og Teresa Marquez
- 4 opdigtede vidner
- Aarons' erfaring som forsvarsadvokat i New Mexico
- over 40 år
Sådan endte de falske citater i indlægget
Ifølge Aarons lagde han en computerfremstillet udskrift af drabssagen og andre dokumenter ind i ChatGPT, hvor en version drevet af OpenAI-modellen o3 leverede citaterne. »Jeg antog, at den lavede et skudsikkert resumé af sagen,« sagde han i retten.
Teksten indeholdt ifølge domstolen også vidneudsagn fra personer, der aldrig blev kaldt i retten, og om trusler, som nogle vidner angiveligt havde fået. Aarons indrømmede desuden, at han beskrev rigtige retsafgørelser forkert i sine henvisninger.
Dommer spurgte, om han læser nyheder
Dommer C. Shannon Bacon købte ikke forklaringen om, at Aarons ikke kendte til AI-hallucinationer, hvor en model opfinder fakta. Hun spurgte ham, om han overhovedet følger med i nyhederne, og bemærkede, at både hendes 13-årige nevø og 75-årige stedmor kender problemet.
Hun sagde, at Aarons enten havde begravet hovedet i sandet eller taget en chance, og at ingen af delene er forenelige med advokaters adfærdskodeks. Domstolen konkluderede, at han viste mangel på anger og mangel på omsorg for sin klient.
Bøde, forbud og en ny advokat
Aarons skal betale 5.000 dollar til State Bar of New Mexico Client Protection Fund og må ikke møde for New Mexicos øverste domstol, mens en disciplinærsag undersøger ham. Den sag kan føre til yderligere straf.
Retten har strøget alle tidligere indlæg, bedt public defender-kontoret om at udpege en ny advokat til den tidligere klient og besluttet, at sagen fortsætter i domstolens 2026-27-sæson. Aarons kalder selv forløbet »en ærlig fejl« og en lærepenge.
Flere detaljer
- Klienten Oscar Renee Sandoval fik livstid i februar 2025 for drabet på Shiereen Al-Jibury.
- Aarons brugte først tjenesten Rev.com, der laver AI-udskrifter af lydfiler.
- Ifølge Aarons var problemet ikke udskriften, men det han lagde ind i ChatGPT.
Kilder:
Ars Technica AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.