Qwen 3.8 27B gætter Pac-Man ud fra vægte
På en laptop identificerede modellen både Pac-Man og Pong ud fra rå modelvægte. Det viser, at lokale modeller kan få noget ud af tal, der ligner støj.
Et spil gættet ud fra tal
På Simon Willisons laptop gjorde Qwen 3.8 27B noget usædvanligt: Den kiggede på de rå vægte af et lille trænet netværk og svarede, at det spillede en Pac-Man-lignende version af et gitter. Vægtene er de mange decimaltal, der tilsammen udgør en trænet model.
Prompten kom fra et GitHub-repository til et nyt paper. Alle fire prompts var identiske bortset fra vægtene. Efter 46 minutter og 12 sekunder og 43.506 reasoning-tokens, altså interne tænketrin, beskrev Qwen et 8x8-labyrintspil med spøgelser og belønningsfelter.
Willison testede også Pong, som Qwen identificerede efter 1 time, 4 minutter og 54 sekunder. Freeway gik det galt med: Her troede modellen, at spillet lignede Pac-Man.
- svartid for Qwen 3.8 27B på Pac-Man-prompten på Willisons laptop
- 46 min 12 sek
- reasoning-tokens før Qwen 3.8 27B svarede på Pac-Man
- 43.506
- andel af vægtene i Qwen3.5-0.8B, som GPT-6 Astra rettede ifølge paperet
- 0,016 %
Paperet bag de fire prompts
Forskerne bag paperet “Sparks of Weight-Space Programming” hedder Rikiya Takehi, Jayden Teoh, Alex Zhang og Omar Khattab. De trænede fire små netværk til 10x10-gitterversioner af Breakout, Pong, Pac-Man og Freeway og gav deres vægte til en sprogmodel.
Ifølge paperet kan GPT-6 Astra både aflæse, hvad et netværk er trænet til, og skrive små spillenetværk fra bunden, som slår netværk trænet med PPO, en almindelig træningsmetode, i 100 millioner skridt. Den kan også rette 0,016 % af vægtene i Qwen3.5-0.8B og løfte MATH-500, en matematiktest, fra 7,9 % til 48,1 %. Den tredobler også IFEval, en test i at følge instruktioner, ifølge paperet. Forskerne kalder metoden Weight-Space Programming.
Kritikere deler forsøget i to
Matthew Honnibal, manden bag sprogværktøjet spaCy, kaldte paperet misvisende, fordi det blander to ting: at en model læser rå vægte uden værktøjer, og at en model med kode kan ændre andre modeller. Sean Goedecke gennemgik Qwen3.5-0.8B-eksemplet og beskrev det som de samme skridt, en maskinlæringsforsker ville tage.
Willison vælger derfor at fokusere på spørgsmålet uden værktøjer. Her er resultatet en demonstration, ikke en færdig anvendelse: Qwen brugte lang tid og fejlede på Freeway, et Atari 2600-spil fra 1981, som Willison kalder mere obskurt end de tre andre.
Flere detaljer
- Willison kørte prompten via llm-værktøjet og LM Studio på egen laptop.
- Kimi K3.1 Pro brugte 9 min 41 s og 19.493 reasoning-tokens på Breakout.
- Qwens Freeway-svar troede, det var et Pac-Man-lignende gitterspil.
- Forfatterne kalder selv arbejdet et blogindlæg, men det er udformet som et paper.
Kilder:
Simon Willison AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.