AI-nyhederNy AI-undersøgelse afslører skjulte fejl i sygehusenes prognoser
Forskere har undersøgt, hvorfor AI-modeller rammer skævt, når de forudsiger patienters helbred. Opdagelsen kan gøre kliniske beslutninger mere præcise.
Det er sket
Et forskerhold har systematisk gennemgået, hvordan AI-modeller performer, når de skal forudsige sygdomsforløb på hospitaler. De fandt, at hullerne i dataene - ikke kun modellernes matematik - ofte sætter loftet for, hvor præcise forudsigelserne kan blive. Det betyder, at selv de bedste AI-systemer kan tage fejl, hvis de er trænet på skæve eller ufuldstændige oplysninger.
Kernen i fundet
Forskerne kalder fænomenet 'loftet ligger i kanalen' - altså at måden, data indsamles på, begrænser AI'ens formåen. De har udviklet nye måder at måle, hvor store hullerne er, og hvornår en model reelt ikke kan lære mere. Det giver hospitaler et redskab til at spotte upålidelige prognoser, før de bruges i behandlingen.
Hvad nu?
Resultaterne peger på, at fremtidens kliniske AI bør fokusere lige så meget på at forbedre datafangsten som på at finjustere algoritmerne. For almindelige patienter kan det betyde færre fejldiagnoser og mere trygge behandlingsforløb, hvis hospitalerne tager metoden til sig.
- Forskerholdet har undersøgt AI-modeller til kliniske forudsigelser.
- Huller i dataene begrænser, hvor præcise modellerne kan blive.
- Forskerne har udviklet nye måder at måle læringsgab på.
- Målet er at gøre sygehusenes prognoser mere pålidelige.
- Metoden kan hjælpe med at spotte upålidelige AI-forudsigelser.
Når du møder op på hospitalet, kan AI-baserede vurderinger blive mere troværdige, fordi forskerne nu kan afsløre, hvornår modellerne ikke kan stole på - før de påvirker din behandling.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.