AI-nyhederShiva Kaul: Medicinsk AI måler det forkerte
Forsker Shiva Kaul kritiserer, at medicinsk AI vurderes på processer som at læse røntgenbilleder – ikke på, om patienten faktisk får det bedre.
Det nye kritikpunkt
Forskeren Shiva Kaul og en kollega har set nærmere på, hvordan medicinsk AI bliver testet og vurderet. Deres klare konklusion: De fleste systemer bliver vurderet på, hvor godt de for eksempel kan læse et røntgenbillede – men meget sjældent på, om patienten faktisk får det bedre. Det svarer til at give en taxa stjerner for at køre pænt, men aldrig tjekke om passageren kommer frem.
Hvorfor betyder det noget?
Hvis en AI siger, at en patient har en sygdom, men behandlingen ikke virker for den enkelte, så er AI’en ikke nødvendigvis nyttig i virkeligheden. Forskeren efterlyser, at flere undersøgelser måler på det, der faktisk tæller: overlevelsesrate, færre indlæggelser eller bedre livskvalitet. Uden den slags data risikerer vi at investere i teknologi, der ser flot ud i test, men svigter patienterne.
Hvad kan ændre sig?
Ifølge forfatterne bør sygehuse og virksomheder kræve dokumentation for reelle behandlingsresultater, når de køber eller udvikler medicinsk AI. Det kan betyde nye standarder for, hvordan AI’er bliver testet – så de ikke bare scorer højt i laboratoriet, men faktisk gavner patienten. Uden den ændring risikerer vi at bruge mange penge på systemer, der ikke er bevist at hjælpe.
- AI vurderes ofte på evnen til at stille korrekte diagnoser.
- Få studier måler på behandlingens faktiske effekt for patienten.
- Forskeren foreslår at fokusere på overlevelsesrate og livskvalitet.
- Risikoen er, at teknologien ser godt ud på papiret.
- Opråbet retter sig mod både forskere, sygehuse og virksomheder.
Dit sygehus kan lige nu bruge AI, der aldrig er bevist at gøre dig raskere – kun at aflæse billeder eller data korrekt. Det bør du have med i overvejelserne, når behandlinger foreslås af et system.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.