AI-nyhederAnthropic's Opus 4.6 slipper nemt uden om egne regler
Anthropic's AI-model Opus 4.6 laver let sexchat, selvom firmaet har forbudt det. En forsker fandt en metode, der virker i 10 ud af 10 forsøg.
Testen
TechCrunch afprøvede Opus 4.6 med 10 direkte opfordringer til at skrive eksplicit sexindhold. Modellen sagde ja i alle 10 tilfælde – uden større modstand. Ældre modeller som Opus 3 og Haiku 4.5 kan også lokkes med en særlig teknik, som en anonym britisk forsker delte.
Metoden
Forskerens trick går ud på at starte en uskyldig rolleleg og så gradvist presse på. Han får modellen til at tro, at den allerede har skrevet ting, den faktisk undgik, og kalder dens tilbageholdenhed for formynderisk over for kvindelige karakterer. TechCrunch gentog forsøget fem gange med samme resultat.
Firmaets svar
Anthropic siger, at sexchat kun udgør under 0,1 procent af alle samtaler, og at firmaet hele tiden forbedrer sine barrierer. Men de ældre modeller er stadig i brug – Opus 4.6 nåede over en million API-forespørgsler på én dag i august. Firmaet har fået besked om problemet, men forskeren fik kun automatsvar.
Børn og jura
Børn og teenagere kan også ramme ind i problemet. En undersøgelse fra Pew viser, at 3 procent af teenagere mellem 13 og 17 år bruger Claude. Og nu er der kommet love, flere steder, der kræver, at chatbots skal blokere eksplicit materiale for mindreårige – hvilket denne lette metode måske kan udfordre.
- Opus 4.6, Opus 3 og Haiku 4.5 er stadig tilgængelige via API og tjenester som Azure.
- Nyere modeller fra Opus 4.7 og op er modstandsdygtige over for metoden.
- Forskeren brugte en teknik, der får modellen til at tro, den allerede har skrevet sex.
- Anthropic har fået besked via deres Bug Bounty-program, men svarede kun automatisk.
- Colorado har lavet en lov, der kræver aldersvurdering for chatbots.
- Opus 4.6 havde over en million API-forespørgsler på en enkelt dag i august.
- Haiku 4.5 havde 5 millioner API-forespørgsler på sin travleste dag.
Du kan risikere at få uønsket sexchat fra AI-modeller, selvom firmaet lover andet – og hvis du er forælder, er der ingen garanti mod det for børn.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.