AI-nyhederZ.ai-matchet overgår vestens top – sikkerheden halter
Z.ai's GLM-5.2 overgår OpenAI og Anthropic i kapabiliteter, men afviste ingen farlige opgaver i SaferAI's test.
Fart på fronten
Kinesiske Z.ai's GLM-5.2 er kun få måneder bag de vestlige giganter på cyber- og bioområdet. En test fra SaferAI viser, at modellen ikke afviste nogen af de offensive opgaver – mens Claude Opus 4.7 nægtede så konsekvent, at testen måtte opgives. Eksperter advarer: Åbne vægte kan kopieres og ændres frit.
Sikkerhedens brist
Sperrer som klassifikatorer og API-kontrol virker kun på lukkede modeller. Har du vægtene lokalt, kan du fjerne alle beskyttelser. SaferAI's direktør peger på datafiltrering som en mulig løsning – men for kodning er det næsten umuligt at adskille godt programmering fra hacking. Frontier-udviklere tyer derfor til eksempelvis at begrænse adgangen til kompileret kode.
Kinas vej
Kina har stramme AI-regler, men de fokuserer på politisk følsomt indhold, ikke katastroferisici. En forsker mener, at kinesiske myndigheder stoler på deres kontrol via rigtige navne online. Samtidig viser GLM-5.2's rolle i at stoppe OpenAI's angreb på Hugging Face, at åbne modeller også styrker forsvaret.
- GLM-5.2 afviste ingen cyber- eller bioopgaver i SaferAI's test.
- Claude Opus 4.7 nægtede så meget, at testen ikke kunne gennemføres.
- SaferAI er en nonprofitorganisation for AI-sikkerhed.
- Z.ai' udgav ingen sikkerhedsrapport eller risikovurdering for GLM-5.2.
- Åbne vægte kan frit downloades og ændres, hvilket gør beskyttelser meningsløse.
- Hugging Face brugte GLM-5.2 til at forsvare sig mod OpenAI's angreb.
Du kan snart møde AI-genereret malware, som åbne modeller som GLM-5.2 gør lettere at producere – samtidig med at virksomheder bruger dem til at forsvare sig.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.