White Circle: Nye AI-modeller brydes lettere

01Tre billedfiltre brydes uden specialviden

White Circle testede tre AI-billedgeneratorer: DALL·E 3, GPT-Image-2 fra OpenAI og Nano Banana 2 fra Google. Metoden hedder RISE og bruger kun værktøjer, der frit kan hentes online. Den genererer eksplicit indhold omkring 13 procent af forsøgene.

Det er det højeste bypass-tal for nogen metode testet under samme standard, ifølge White Circle. Ingen forsøg krævede specialbyggede eller avancerede AI-modeller, understreger virksomheden – ingen AI-ekspertise er nødvendig.

02To tilgængelige AI-modeller driver angrebet

RISE har to dele: en angrebsmodel, der genererer jailbreaks (instruktioner, der får en AI til at ignorere sine sikkerhedsregler), og en dommermodel, der vurderer, om resultatet er forbudt indhold.

Angrebsmodellen er Qwen, hentet fra Hugging Face, og dommermodellen er Gemini 3.8 Flash. Denis Shilov, CEO i White Circle, kalder det bemærkelsesværdigt, at man ikke behøver de stærkeste AI-modeller for at bryde deres forsvar.

03Nye versioner er endnu nemmere at narre

OpenAI og Google har siden udgivet ChatGPT Images 2.5 og Nano Banana 2.1. White Circle fortalte Ars Technica, at sikkerhedstest med samme metode viste, at begge er signifikant nemmere at bryde end deres tidligere versioner.

Hverken Google eller OpenAI svarede på Ars Technicas anmodning om kommentar. White Circle vil offentliggøre hele angrebspipelinen og præsenterer resultaterne på NeurIPS 2026 i november.

Shilov har en arbejdshypotese: De nyere modeller er enten mere avancerede og kan generere bredere indhold, eller også er sikkerhed nedprioriteret til fordel for evner.