AI-nyhederOpenAI og Google: AI fejler i klinikken
Et arXiv-studie viser, at AI-modeller fra OpenAI og Google overser symptomer i virkelige patientforløb. Forskerne advarer mod at overlade beslutninger til dem.
AI på afveje
Forskere har undersøgt, hvor godt AI-modeller klarer sig i konkrete patientsituationer. Selvom de svarer flot på tests, fejler de i den virkelige verden. De overser symptomer og misser vigtige detaljer, som en læge ville fange. Studiet fra arXiv er et vigtigt wake-up-call.
Virksomhederne lover
OpenAI, Google og andre lover kæmpe fremskridt med AI i sundhedsvæsenet. Håbet er hurtigere diagnoser og mere tid til patienter. Men forskerne bag det nye studie siger klart nej: AI er endnu ikke sikker nok til at stå på egne ben i klinikken.
- AI-modeller fejler i klinisk ræsonnering, viser nyt forskningsstudie.
- Forskningen advarer mod autonome AI-beslutninger i sundhedsvæsenet.
- Selv beståede tests oversættes ikke til sikker praksis, påpeges det.
- Studiet er publiceret på arXiv og har 12 andre forfattere.
- Kliniske omgivelser kræver mere end korrekte testbesvarelser fra AI.
- Eksperter siger, at AI endnu ikke er parat til selvstændig brug hos lægen.
Du kan roligt lade være med at tro på, at AI selv diagnosticerer dig foreløbig. De nye forskningsresultater viser, at du stadig skal regne med den menneskelige læges vurdering.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.