Datasette får sikkerhedsrettelser efter AI-audit
Simon Willison udgiver Datasette 1.0a39 og 0.65.4 med sikkerhedsrettelser. Fejl blev fundet via audit med flere AI-modeller, især ved offentlige instanser med både offentlige og private tabeller.
To versioner udgivet
Simon Willison har udgivet Datasette 1.0a39 og 0.65.4. Den ene er til den aktuelle alpha-serie, den anden til den stabile 0.65.x-familie. Begge er sikkerhedsrettelser, som ifølge Willison bør installeres, hvis man kører en Datasette-instans offentligt på nettet – især hvis instansen blander både offentlige og private tabeller.
Audit med AI-modeller
Efter rapporter fra Sevban Dönmez gennemførte Alex Garcia og Simon Willison en omfattende audit af Datasette ved hjælp af Claude Fable 5.1, GPT-5.6 og GPT-6 Astra. De brugte næsten en uge på at samarbejde om og gennemgå rettelserne. Ifølge Willison fandt modellerne meget subtile fejl, og sikkerhedsaudits med frontier-modeller skal fremover indgå i al udvikling.
To personer pr. fejl
Arbejdet blev delt i et privat repository. For de fleste fejl skrev den ene person automatiske tests, der fremhævede problemet, mens den anden implementerede rettelsen. På den måde havde to forskellige mennesker øje på hver sag – ud over de kodende agenter, som kørte forskellige modeller.
Flere detaljer
- Udgiver: Simon Willison.
- Fejl rapporteret af Sevban Dönmez.
- Audit og rettelser: Alex Garcia og Simon Willison.
- Auditten brugte Claude Fable 5.1, GPT-5.6 og GPT-6 Astra.
- Rettelserne tog næsten en uge at samarbejde om og gennemgå.
Kilder:
Simon Willison AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.