AI-nyhederEmilio Ferrara's AI-introspektion kan se sin egen hjerne
Ny forskning fra Emilio Ferrara undersøger, hvordan AI-modeller kan forklare deres egne tankeprocesser gennem en ny metode kaldet maskeret introspektion.
Opdagelsen
Forskeren Emilio Ferrara har udviklet en metode, hvor AI-modeller kan rapportere om deres egne udregninger, mens de arbejder – uden at det bliver forstyrret. Det åbner en ny dør til at forstå, hvad der sker inde i AI'ens 'hjerne'.
Hvordan det virker
Metoden, kaldet Open-Weight Masked Introspection, bruger modeller med åbne vægte, så forskerne kan holde øje med de interne trin. AI'en kan dermed fortælle noget om, hvilke oplysninger den bruger og hvorfor – en slags selvrapportering.
Hvad det kan bruges til
Det kan gøre AI mere gennemsigtig og hjælpe med at opdage fejl og skjulte tendenser, der ellers kun gemmer sig i komplekse beregninger. Dermed kan vi bedre stole på, hvad AI'erne siger, og hvornår de ikke skal bruges.
- Forskningsartiklen er skrevet af Emilio Ferrara og udgivet på arXiv.
- Metoden hedder Open-Weight Masked Introspection.
- Den bruger AI-modeller med åbne vægte til at undersøge interne beregninger.
- Målet er at måle, hvor godt AI kan rapportere om sin egen computation.
- Metoden kan øge gennemsigtigheden og afsløre fejl i AI-modeller.
Du kan fremover bedre vurdere, om en AI's svar er troværdigt, når modellen selv kan forklare sine udregninger.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.