AI-nyhederChatGPT-sjusk koster advokat 5.000 dollar
New Mexico-advokat Stephen Aarons brugte ChatGPT i et appelindlæg og citerede opdigtede vidner. Nu er han i foragt for retten og skal betale.
Dommerens hårde ord
Under en høring i august 2025 blev Aarons spurgt, om han overhovedet følger med i verden. Justice C. Shannon Bacon sagde, at hendes 13-årige nevø og 75-årige stedmor kender til AI's fejl. Hun kaldte det et valg at være uinformeret eller et sats – ingen af delene er forenelige med advokaters regler.
Falske vidner i briefen
Aarons indrømmede, at hans appelindlæg indeholdt vidneudsagn fra personer, der aldrig har eksisteret – blandt andre officer Michelle Amarillo, officer Sanchez, Manal Al-Jibury og Teresa Marquez. Også vidnerne Danny og Linda Stanton samt Mariah Chavez blev citeret for udsagn, de aldrig har givet. Ifølge rettens kendelse var der tale om "falsk vidneudsagn fra fuldstændigt opdigtede vidner".
Brugte o3-model
Advokaten fortalte retten, at han brugte en version af ChatGPT drevet af OpenAI's o3-model, som udkom tidligere i 2025. Han fodrede en computer-genereret udskrift af mordretssagen og andre dokumenter ind i systemet. Ifølge Aarons selv antog han, at AI'en ville lave et "skudsikkert resumé" af sagen, fordi teknologien er så udbredt i juridiske og medicinske kredse.
Dom og straf
New Mexicos højesteret idømte Aarons en bøde på 5.000 dollar, som skal betales til statens advokatsamfunds klientbeskyttelsesfond. Han er desuden midlertidigt frataget retten til at møde for højesteret, indtil en disciplinær sag er afsluttet. Sagen kan føre til yderligere sanktioner. Retten fjernede alle tidligere indlæg fra sagens dokumenter og beordrede en ny advokat til den dømte.
En advarsel til alle
Sagen er ikke enestående. Advokater over hele USA er blevet taget i at citere falske eller opdigtede retsafgørelser og vidneudsagn, som AI har genereret. Justitsministeriet og domstolene har gentagne gange understreget, at advokater altid skal kontrollere og verificere alt, uanset om kilden er en AI, en jurastuderende eller en kollega.
- Advokat Stephen Aarons brugte ChatGPT til at opsummere en mordretssag og indsatte falske vidneudsagn i sin appel.
- New Mexicos højesteret idømte ham en bøde på 5.000 dollar og henviste sagen til Advokatsamfundets disciplinærnævn.
- Aarons brugte OpenAI's o3-model og troede fejlagtigt, at den ville give et præcist resumé.
- Flere opdigtede vidner – heriblandt officer Michelle Amarillo og Teresa Marquez – optrådte i briefen.
- Retten kaldte hans adfærd et udtryk for manglende anger og ligegyldighed over for klienten.
- Sagen skal køre i højesterets 2026-27-session, og Aarons er frataget adgangen til at møde for retten indtil da.
Hvis du er advokat eller bruger AI i dit arbejde, kan du ende med bøde og karantæne, hvis du ikke tjekker AI'ens svar. Reglerne kræver, at du altid verificerer fakta.
Kilder:
Ars Technica AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.