FlashProve skal bevise hvilken AI-model du bruger
Anthropic offentliggør åben kildekode og teknisk specifikation til et system, der med kryptografi kan vise, hvilken model der har svaret.
Et matematisk bevis på svaret
Anthropic arbejder på et åbent system, der kan bevise, hvilken AI-model der har lavet et bestemt svar. Systemet hedder FlashProve, og forskerne bag kalder det »provable inference«: et kryptografisk bevis, altså en matematisk garanti for, at teksten kommer fra netop den model, brugeren tror, den kommer fra.
Beviset skal holde, selv hvis nogen forsøger at udgive én model for en anden – også hvis det er laboratoriet selv, der står bag. Ifølge forskerne kan systemet forhindre en AI-virksomhed i i det skjulte at skifte til en billigere model for at spare penge, eller til en dyrere model for at puste sine testresultater op.
Fingeraftryk uden at røbe modellen
For at det kan lade sig gøre, skal laboratorierne offentliggøre et »fingeraftryk« for hver model, de udgiver. Fingeraftrykket kan senere matches med konkrete svar og kontrolleres kryptografisk.
Pointen er, at fingeraftrykket ikke røber modellens vægte – de interne tal, der bestemmer, hvordan modellen opfører sig, og som lukkede selskaber som Anthropic og OpenAI holder private. Laboratorierne kan altså dele fingeraftryk uden at give deres mest værdifulde aktiv væk, og systemet kan derfor også bruges på kommercielle modeller. Verifikationen er desuden designet til at være let nok til at køre på en lokal enhed.
Kode og specifikation ligger åbent
Forskerne forestiller sig også, at systemet kan bruges til at tjekke tredjeparts påstande. En udvikler kan eksempelvis hævde, at et softwarebibliotek er blevet scannet for sårbarheder af en avanceret sikkerhedsmodel – og brugeren kan så kontrollere, om det passer.
Anthropic har sammen med opslaget offentliggjort en teknisk specifikation og fungerende kode til dele af systemet under en open source-licens på GitHub. Der er ingen planer om at tage det i brug hos Anthropic eller andre laboratorier. Forskerne kalder selv opslaget for en delvis status og skriver, at de deler arbejdet for, at andre kan tage det og forbedre det.
Flere detaljer
- Verifikationen er designet til at kunne udføres på en lokal enhed.
- Fingeraftrykkene skal ikke afsløre modellens vægte.
- Koden er offentliggjort på GitHub under en open source-licens.
- Forskningen fortsætter, og systemet er ikke sat i drift.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.