AI-nyhederShujie Luan: Hvem hænger på fejlene, når AI hjælper lægen?
Ny forskning fra Shujie Luan viser, at lægers ansvar ændrer sig, når AI er med til at stille diagnoser. Hvem bærer skylden, når teknologien begår fejl?
Det nye problem
Forskning fra Shujie Luan og kolleger sætter fokus på et overset spørgsmål: Hvem er juridisk ansvarlig, når AI bruges i behandling? Hidtil har debatten handlet om, hvorvidt AI selv kan stilles til ansvar. Men papiret vender det om og kigger på lægen, der vælger at følge eller ignorere systemets anbefalinger.
Lægens dilemma
Lægen står i en svær position: Skal hun stole på sin egen vurdering eller følge AI'ens forslag? Hvis hun overtrumfer systemet og tager fejl, kan hun stilles til ansvar. Følger hun blindt AI'en, og den tager fejl, er det også uklart, om hun kan forsvare sig. Forskningen peger på, at der mangler klare regler for denne nye virkelighed.
Hvad nu?
Luan foreslår, at man designer AI-systemer med ansvar for øje - ikke kun med fokus på præcision. Det kan betyde, at systemer skal forklare deres ræsonnement bedre, så læger kan træffe informerede valg. Uden sådanne ændringer risikerer vi, at læger enten bliver for bange for at bruge AI eller følger den ukritisk.
- Forskningen handler om, hvem der har ansvaret, når AI bruges i medicinske beslutninger.
- Læger kan blive holdt juridisk ansvarlige, hvis de fraviger AI-anbefalinger og tager fejl.
- Der findes ingen klare regler for, hvordan læger skal forholde sig til AI's råd.
- Studiet foreslår, at AI-systemer designes med fokus på ansvarsfordeling.
- Papiret er skrevet af Shujie Luan og to andre forskere.
- Det er publiceret på arXiv under emnet AI.
Når du møder op til lægen, kan AI være med til at diagnosticere dig - men der er ingen klare regler for, hvem der hænger på fejlene, hvilket kan gøre behandlingen mere forsigtig og langsommere.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.