AI-nyhederHaoting Qians nye test afslører AI's hukommelsesmareridt
Ny benchmark undersøger, om AI kan glemme data og stadig svare logisk. Opdagelsen viser store problemer med sammenhæng.
Det nye
Forskeren Haoting Qian har udviklet en helt ny slags benchmark til at teste AI-modeller. Testen hedder Leak-Resistant Unlearning og går ud på at se, om modeller kan 'glemme' oplysninger, de er blevet bedt om at fjerne - og samtidig bevare evnen til at svare korrekt på spørgsmål, der kræver flere logiske trin.
Problemet
Når AI skal glemme data - for eksempel af hensyn til privatliv - slipper det ofte ikke hele vejen. Information kan 'lække' ud via indirekte spørgsmål. Den nye test afslører, at modeller har svært ved både at glemme og huske på samme tid, og at de let mister tråden i længere ræsonnementer.
Hvad så?
Det kan få betydning for virksomheder, der skal leve op til regler om at slette kunders data. Hvis en model ikke kan glemme ordentligt, kan den risikere at svare med oplysninger, den ikke skulle have. Benchmarket giver en konkret måde at måle, hvor god en model faktisk er til at glemme.
- Haoting Qian står bag den nye benchmark Leak-Resistant Unlearning.
- Testen fokuserer på flertrinsræsonnement og konsistens efter 'glemning'.
- Modeller viser tegn på lækage af slettede oplysninger via indirekte spørgsmål.
- Der er behov for bedre metoder til at sikre robust og sikker glemning.
- Publikationen er tilgængelig via arXiv og med åben adgang.
Du kan fremover forvente, at AI-tjenester bliver bedre til at slette dine data, når du beder om det - og ikke lader oplysninger lække ud.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.