Anthropic samler forbud mod falske kampagner
Ny version af brugspolitikken præciserer reglerne for våben, overvågning og fysisk automatik og lader Claude afvise grov chikane.
Falske kampagner samles i ét forbud
Anthropic udgiver en ny version af sin brugspolitik for Claude, selskabets AI-chatbot. Det meste præciserer regler, der allerede findes.
En ny sektion samler forbuddet mod falske kampagner, som før lå spredt i afsnittene om valg, svindel, privatliv og desinformation. Den dækker politisk og kommerciel snyd: at sløre, hvem der står bag en besked, at puste indhold op med falske konti og at bygge værktøjer til påvirkningskampagner.
- Datoen, hvor den opdaterede brugspolitik træder i kraft
- 12. november
Valgafsnittet skærpes og lempes
Valgafsnittet skifter navn til Do Not Undermine Democratic Processes og skal nu specifikt forhindre, at Claude vildleder vælgere eller forstyrrer valg — for eksempel med falske oplysninger om kandidater eller om, hvordan man stemmer.
Omvendt fjerner Anthropic et generelt forbud mod personligt målrettet valgmateriale. Ifølge selskabet ramte det legitimt civilt arbejde, for eksempel nonprofit-organisationer, der skriver vælgerinformation på andre sprog, eller valgembedsmænd, der sender breve om fejl på stemmesedlen. Sådan snyd er stadig forbudt.
Styre- og kontrolsoftware til våben
Forbuddet mod, at Claude udvikler våben, er ikke nyt. Men politikken siger nu eksplicit, at det også omfatter styre- og kontrolsoftware til våben — den software, der navigerer og styrer dem — samt at bevæbne droner og andre autonome køretøjer.
Også overvågningsafsnittet er skrevet om: At spore folk uden deres samtykke er forbudt, både i realtid og ved at analysere allerede indsamlede data. Claude må ikke afgøre, hvem myndighederne skal efterforske, anholde eller tiltale. Ifølge Anthropic ændrer ordlyden ikke praksis, kun hvor tydeligt reglerne står.
Menneske i loopet og nødstop
Når Claude bruges til at påvirke helbred, juridiske rettigheder, økonomi eller adgang til essentielle tjenester, kræver Anthropic et kvalificeret menneske i loopet — en person, der kan gennemgå og om nødvendigt ændre Claudes forslag. Den berørte skal have at vide, at AI blev brugt.
Kravet er ikke nyt, men afsnittet viser nu direkte, hvilke anbefalinger der er omfattet. Nyt er kravene til hardware, der handler fysisk: En operatør skal kunne stoppe udstyret, og det skal kunne stå sikkert, hvis Claude kobles fra.
Claude må afvise grov chikane
Anthropic forbyder nu vedvarende og unødig grusom eller krænkende adfærd mod modellerne selv. Forbuddet gælder kun ekstreme tilfælde, hvor en bruger gentagne gange opfører sig grusomt uden noget erkendeligt formål.
Almindelig frustration, modspil, mørke kreative temaer og test af modeller er ikke omfattet. Claude kan allerede afslutte sjældne samtaler med vedvarende krænkende brugere på Claude.ai og Claude Code, og den mulighed er fortsat den primære håndhævelse.
Flere detaljer
- Overvågning er fortsat tilladt, når folk har samtykket, samt ved indholdsmoderation, journalistik og juridisk research.
- Anthropics september-rapport dokumenterede voksende brug af AI til at overvåge politiske dissidenter.
- Politikken forbyder også brug fra personer og selskaber i lande, Anthropic ikke understøtter.
Kilder:
Anthropic News → TechCrunch AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.