AI-nyhederForsker Mikhail Burtsev: AI kan forbedre sig selv i det uendelige
Ny forskning fra Mikhail Burtsev advarer om, at AI der forbedrer sig selv, kan nå et kritisk punkt, hvor udviklingen løber løbsk.
Det nye fund
Mikhail Burtsev har undersøgt, hvad der sker, når AI-systemer begynder at forbedre deres egen kode og læring. Hans forskning peger på, at der findes et såkaldt 'rekursivt kritisk punkt'. Her bliver AI så dygtig til at opgradere sig selv, at hver forbedring gør den endnu bedre til at lave den næste forbedring - en sneboldeffekt, der kan accelerere voldsomt og skabe et spring i intelligens.
Hvad betyder det?
Forskningen bruger matematiske modeller til at vise, at dette spring kan ske pludseligt og uden forudgående advarsel. For almindelige mennesker betyder det, at AI-udviklingen potentielt kan gå fra håndterbar til ekstremt hurtig på meget kort tid. Det er ikke længere kun science fiction - det er noget, forskere nu tager seriøst og forsøger at forstå i detaljer.
Kritik og forsigtighed
Flere forskere har tidligere advaret om lignende risici, men Burtsev tilføjer en mere præcis ramme for, hvornår og hvordan det kan ske. Kritikere påpeger dog, at modellerne bygger på antagelser om, at AI rent faktisk kan forbedre sig selv uden menneskelig hjælp, hvilket endnu ikke er bevist i praksis. Derfor bør resultaterne læses med forbehold, mener nogle eksperter.
- Forskningen fokuserer på AI-systemer, der kan forbedre deres egen kode og læring.
- Mikhail Burtsev har udviklet matematiske modeller for selvforbedrende AI.
- Modellerne viser, at et 'rekursivt kritisk punkt' kan føre til pludselige spring i intelligens.
- Springet kan ske uden forudgående advarsel, ifølge forskningen.
- Resultaterne er stadig teoretiske og ikke afprøvet i praksis.
Du kan opleve, at AI-udviklingen pludselig accelererer langt hurtigere end forventet, hvilket kan påvirke alt fra dit job til samfundets regler - så det er værd at følge med i debatten om sikker AI.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.