Cheng Tan definerer AI-native systemer
Forsker Cheng Tan foreslår at en AI er AI-native hvis den kan ændre sine egne regler uden menneskelig godkendelse.
Hvad er en AI-native?
Mange firmaer kalder deres produkter AI-drevne, men hvornår er det virkelig sandt? Forsker Cheng Tan har analyseret begrebet og foreslår et helt nyt kriterium. Det handler ikke om, hvor smart AI'en er, men om hvem der har sidste ord.
Testen: Revision authority
Kernen er 'revision authority' – altså retten til at ændre de grundlæggende spilleregler. Hvis en AI selv kan omskrive sin kode eller justere sine egne mål uden menneskelig godkendelse, er den AI-native. Kan den ikke det, er den bare et almindeligt program.
Hvorfor betyder det noget?
Forestil dig en robotstøvsuger, der selv beslutter at sætte farten ned, fordi den opdager at gulvet er skrøbeligt. Den tager selv initiativet. Forskerne mener, at denne selvstændige beslutningskraft bliver afgørende for at bygge systemer, der kan klare uforudsete situationer.
Kritik og fremtid
Ikke alle er enige. Kritikere peger på, at definitionen er for snæver og ignorerer de mange smarte AI-systemer, der allerede findes. Andre frygter, at det kan føre til ukontrollable maskiner. Debatten viser, at vi står over for et afgørende skel i, hvordan vi bygger teknologi fremover.
- Et AI-native system kan ændre sine egne mål og regler.
- Cheng Tan definerer autonomi som retten til at revidere sig selv.
- Revision authority er nøglebegrebet i den nye definition.
- Testen afgør, om AI er 'native' eller blot et almindeligt værktøj.
- Definitionen kan påvirke, hvordan fremtidens robotter designes.
Du vil fremover kunne se på et produkt, om det virkelig tænker selv – eller bare gør, som du har sagt. Det ændrer spillereglerne for alt fra smartphones til biler.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.