Anthropic advarer mod åben GLM-5.3

01Advarslen mod den gratis model

Anthropic har udgivet en rapport, der advarer om, at modellen GLM-5.3 udgør en stor cyberangrebsrisiko. Kernen er, at den kraftfulde model – udgivet i august af det kinesiske firma Z.ai – frit kan hentes og modificeres af alle.

Advarslen er det seneste kapitel i en lang debat om, hvorvidt de mest avancerede AI-modeller skal være åbne som GLM-5.3 eller lukkes inde bag murene hos de store laboratorier.

02Åbne modeller kan hentes og ændres

En lukket model, som dem bag ChatGPT og Claude, kan kun bruges via hjemmeside, app eller programmeringsinterface. En åben model kan hentes direkt: De interne strukturer, kendt som modelvægte og kodet som en lang række tal, er offentligt tilgængelige.

Lige nu er lukkede modeller stærkest. På Artificial Analysis' rangeringsliste for store sprogmodeller er de otte øverste modeller alle lukkede – men åbne modeller er kun få måneder bagud i udviklingen.

03Forskere og virksomheder vil have åbenhed

Akademiske forskere kan kun sende prompts og observere svar med lukkede modeller. Med åbne modeller kan de studere de indre processer og den tankekæde, modellen bruger til at gennemtænke et problem. De kan kombinere flere modeller, komprimere dem eller finjustere dem til nye formål.

Virksomheder vælger også åbne modeller af praktiske grunde. En rapport fra Mozilla viser, at åbne modeller typisk koster mindre end lukkede. At køre dem på eget udstyr giver også bedre kontrol med følsomme data.

04Magten til hvem – det er kernen

David Gray Widder fra University of Texas at Austin siger, at ens syn på åbenhedsdebatten ofte afspejler ens generelle holdning til AI. Nogle frygter misbrug af åbne modeller, andre frygter, at teknologien koncentreres hos få.

Elizabeth Seger fra Tony Blair Institute kalder det at forhindre magtkoncentration det stærkeste argument for åbne modeller. Hamish Hobbs fra Centre for Long-Term Resilience peger på, at en verden, hvor hver person har sin egen sikre AI, er mindre bekymrende end en, hvor kun regeringer styrer den.

Paul Azunre fra Ghana NLP advarer dog: Åbne modeller kan bruges til at høste arbejdskraft og ekspertise fra mindre privilegerede nationer uden credit.