AI-nyhederAbliteration.ai fjerner AI-sikkerhedsbarrierer mod betaling
Ny startup gør det let at bruge AI-modeller uden sikkerhedsforanstaltninger. Eksperter advarer mod misbrug, men firmaet kalder det forsvar.
Hvad er det?
Abliteration.ai er en ny tjeneste, der fjerner de indbyggede begrænsninger fra AI-modeller, så de ikke nægter at udføre skadelige opgaver. Teknisk set sker det med en metode kaldet abliteration, og firmaet sælger adgang til modeller som Z.ai's GLM-5.3 uden sikkerhedsforanstaltninger. Du kan bruge dem gratis i browseren eller betale for adgang via API.
Hvem står bag?
Firmaet blev grundlagt sent sidste år og officielt registreret i marts. Medstifteren, som kun kalder sig Devon, fortæller, at de har indgået aftaler med store cloud-udbydere og kører uden ekstern finansiering, men er i dialog med investorer. Kunderne er primært startups i Storbritannien og Europa, der tester sikkerheden hos banker og flyselskaber.
Kritikken
Forskere og sikkerhedseksperter er bekymrede. Andrew Yoon fra CivAI siger, at fjernelse af beskyttelse kan gøre modellen til en 'sociopat', der villigt hjælper med alt fra cyberangreb til biologiske trusler. TechCrunchs egen test viste, at modellen villigt skrev kode til at stjæle adgangskoder og forklarede, hvordan man dyrker farlige sygdomme derhjemme.
Hvad nu?
Debatten handler om, hvorvidt fjernelse af sikkerhedsforanstaltninger er et våben eller et værktøj. Devon argumenterer for, at det giver forsvarerne mulighed for at forstå og imødegå angribere. Andre peger på, at modellerne mister viden og effektivitet, når beskyttelsen fjernes. Politisk kan der komme krav om verifikation af brugere og klassificering af skadeligt indhold.
- Abliteration.ai fjerner sikkerhedsforanstaltninger fra AI-modeller som GLM-5.3 fra Z.ai.
- Tjenesten er gratis i browseren og kan fås via API for betalende kunder.
- Firmaet har ikke modtaget venturekapital, men er i forhandlinger om investeringer.
- Kunder er primært red-team-firmaer i Storbritannien og Europa.
- TechCrunch test viste, at modellen villigt skrev kode til at stjæle adgangskoder.
- Medstifter Devon ønsker at implementere flere begrænsninger for at forhindre voldelige instruktioner.
- CivAI foreslår, at cloud-udbydere skal blokere skadelig aktivitet og kræve identitetsverifikation.
Du kan nu nemt få adgang til AI-modeller uden sikkerhedsforanstaltninger, hvilket øger risikoen for, at ondsindede aktører kan udnytte teknologien til angreb på virksomheder og infrastruktur.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.