Musubi modererer indhold på under 50 millisekunder

01Politikken står på almindeligt engelsk

Musubi har annonceret PolicyLM-1.7B, en letvægts AI-model til indholdskontrol i realtid, frigivet med åbne vægte. Åbne vægte betyder, at andre kan downloade modellen og køre den selv.

Modellen tager en indholdspolitik skrevet på almindeligt engelsk og anvender den på en besked på under 50 millisekunder.

Pris og hastighed svarer til de AI-klassifikatorer, de fleste sociale platforme bruger. Men fordi PolicyLM-1.7B har en moderne LLMs fleksibilitet, kan den håndtere komplekse politikker uden særlig træning. Når politikken ændres, skal modellen ikke gentrænes — det lader menneskelige politiksættere justere reglerne, som de har behov for.

02Kun ja eller nej gør modellen hurtig

Beslutningsmodeller er blevet et varmt emne i AI-verden, siden TypeSafe AI udgav Jev i september. Kort efter fulgte konkurrerende beslutningsmodeller fra OpenAI og Amazon.

I stedet for at skrive tekst ud afgiver en beslutningsmodel sandsynligheder for et udfald. Her er dommen binær: Enten er indholdet i kategorien, eller også er det ikke. Begrænser man outputtet til forudbestemte valg, kører modellen hurtigere og billigere end en stor sprogmodel — stadig med transformerens fleksibilitet.

Et tidligt brugsfelt er at dæmme op for misbrug fra AI-agenter. Nu anvendes den samme teknologi på menneskers opførsel.

03Jankovic arbejdede med beslutningsmodeller før Jev

Musubis medstifter og chief AI officer, Filip Jankovic, siger, at hans interesse for beslutningsmodeller går forud for Jev. Han sporer den tilbage til et projekt fra 2024 kaldet GLiNER — Generalist Model for Named Entity Recognition — som brugte mange af de samme teknikker.

Musubi er åben om sammenligningen. I produktmeddelelsen skriver selskabet, at hvis Jev fangede dit øje, er PolicyLM-1.7B den samme slags model, trænet specifikt til indholdskontrol, som du selv kan køre.