AI-nyhederChen Yueh-Han viser vejen til selvforbedrende AI
Anthropic-forskeren Chen Yueh-Han har fået AI til at forbedre sig selv på alle 10 testområder – og det er billigere end mennesker.
Opdagelsen
En forsker hos Anthropic, Chen Yueh-Han, har lavet et system, der lader AI-modeller forbedre deres egen adfærd. Systemet fik 10 opgaver med uønsket adfærd og klarede at rette op på alle sammen – uden at ødelægge resten af modellens evner. Forskerne kalder det et tidligt bevis på, at AI kan lære at forbedre sig selv.
Sådan virker det
Systemet arbejder næsten som en menneskelig forsker: Det læser artikler, foreslår en metode og træner modellen i 30 minutter. Så gentager det processen og beholder kun de metoder, der virker. På den måde kan det arbejde hurtigt og i stor skala – og det bliver bedre og bedre for hver runde.
Pris og sammenligning
Det nye system er ikke bare effektivt – det er også billigt. En AI-forsker koster cirka 4 dollars i timen mod 150 dollars i timen for en menneskelig forsker. Og på gennemsnitligt seks timer klarer AI'en sig bedre end, hvad erfarne mennesker foreslår. Det får mange til at spekulere på, om menneskelige forskere snart bliver overflødige.
Begrænsninger og fremtid
Der er stadig udfordringer: Systemet er kun så godt som de testmål, det arbejder mod, og det kræver en masse vedligeholdelse af både benchmarks og forskningslitteratur. Men hvis det lykkes at skalere det op, kan det bane vejen for en ny æra, hvor AI selv forbedrer sin træning – måske endda uden mennesker i midten.
- Systemet forbedrede performance på alle 10 benchmarks uden at degradere generel performance.
- Hver metode testes i 30 minutter og gentages flere gange.
- Effektive metoder bevares, ineffektive kasseres.
- AI'en klarer sig bedre end mennesker på gennemsnitligt seks timer.
- Forskerne kalder det et tidligt skridt mod rekursiv selvforbedring.
- Menneskelige forskere kan blive overflødige, hvis AI kan forbedre træning selv.
Du kan snart se AI-produkter blive bedre og billigere, fordi modellerne selv lærer at rette deres fejl – uden at mennesker skal bruge dyre timer på det.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.