Spring til artiklen
nyhederModellanceringer
← Tilbage til nyhederne
Forskning · Hugging Face · 12.11.2026 · 2 min. læsning

IBM lærer Granite at skelne instruktioner fra data

To eksperimentelle modeller bruger LLMON, et nyt format, der mærker tekstens dele og viser, hvilke oplysninger en instruktion gælder for.

Mærker viser modellen tekstens rolle

IBM har udgivet to eksperimentelle versioner af sine Granite-modeller, som er trænet til at læse og skrive tekst i formatet LLMON. Formatet skal gøre det tydeligere for modellerne, hvad der er en opgave, og hvad der er de data, opgaven handler om.

LLMON sætter mærker omkring tekstens forskellige dele. En instruktion, de oplysninger, den skal bruges på, og krav til svaret kan dermed bindes sammen, selv om delene står forskellige steder i den tekst, modellen får.

Formatet supplerer samtalens roller

Modellerne hedder granite-4.1-3b-LLMON-preview og granite-4.1-8b-LLMON-preview. De bygger på Granite 4.1 og er ifølge IBM eksperimentelle forhåndsudgaver, ikke færdige løsninger.

En almindelig samtaleskabelon viser modellen, om en besked kommer fra eksempelvis brugeren eller assistenten. LLMON føjer oplysninger om indholdet til: Det viser, hvilke dele der er instruktioner, data og krav, og hvordan de hænger sammen.

IBM har også udgivet værktøjer og eksempler på GitHub. Værktøjerne kan blandt andet oversætte mellem LLMON og JSON, et udbredt format til at udveksle strukturerede data, uden at oplysninger går tabt.

Skjulte instruktioner er stadig en risiko

Den tydeligere opdeling er også tænkt som et værn mod prompt injection: angreb, hvor en skadelig instruktion gemmes i eksempelvis et dokument, som modellen skal læse. Angriberen forsøger at få modellen til at følge den skjulte instruktion frem for den egentlige opgave.

IBM oplyser, at virksomheden har testet modellerne mod sådanne angreb og sammenlignet dem med andre modeller. Den tilgængelige kildetekst indeholder dog ikke testresultaterne. En sikkerhedsfordel er derfor ikke dokumenteret her, og formatet er ingen garanti mod angreb.

Kilder:
Hugging Face →

Læs dagens AI-nyheder på letlæst dansk →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.