AI-nyhederSurya Saka: Hvornår kan AI stole på lovtekster?
Ny forskning giver en metode til at teste, om AI's forståelse af love er pålidelig nok til at bruge i praksis.
Det nye
Forsker Surya Saka har lavet det, han kalder et overlevelsescertifikat for maskinudtrukket juridisk logik. Kort fortalt handler det om at give AI en slags prøve, der viser, om den kan have tillid til sin egen fortolkning af en lovtekst. Det er første gang, nogen systematisk tager hul på den usikkerhed.
Hvorfor nu?
AI bruges i stigende grad til at læse og rådgive om love, men de kan også tage fejl på måder, der er svære at opdage. Sakas metode gør det muligt at vurdere, hvornår en maskines juridiske slutninger faktisk er holdbare. Det baner vejen for, at systemerne kan blive brugt mere sikkert i for eksempel sagsbehandling.
Det kræver
Metoden bygger på en kombination af logik- og pålidelighedstests. Saka antager, at en maskine ikke bare skal ramme rigtigt – den skal også kunne forklare vejen til svaret. Uden det, mener han, kan man ikke placere tillid i maskinernes juridiske ræsonnementer.
- Papiret ligger på arXiv under emnet AI.
- Det foreslår et formaliseret certifikat for maskinudtrukket logik.
- Certifikatet tester pålideligheden af juridiske slutninger.
- Fokus er på at skelne mellem tilfældige hits og reelt holdbare fortolkninger.
- Forskeren kalder begrebet overlevelsescertifikat.
Du kan i fremtiden møde AI-baserede juridiske rådgivere, der først skal bestå en form for troværdighedstest, før de må bruges – det øger sikkerheden, når maskiner håndterer dine aftaler eller sager.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.