AIUC vil certificere AI-agenter med 5.000 test
Rune Kvist og Rajiv Dattani har rejst 40 mio. dollar til uafhængig test af AI-agenter, så købere ved, hvad de får.
40 millioner dollar til agent-revision
Tirsdag fortalte startupet AIUC, Artificial Intelligence Underwriting Company, at det har rejst 40 millioner dollar i en Serie A-runde ført af Ribbit Capital, med First Harmonic som deltager. Dermed er den samlede finansiering oppe på 55 millioner dollar, efter en seed-runde på 15 millioner dollar fra Nat Friedmans fond NFDG samt Emergence, Terrain og Anthropics medstifter Ben Mann.
Bag selskabet står Rune Kvist, der var tidligt ansat hos Anthropic, og Rajiv Dattani, tidligere driftsdirektør i AI-sikkerhedsorganisationen METR. De to er svogre og mener at have et svar på et voksende problem: AI-agenter, der opfører sig uforudsigeligt inde i virksomheder.
- Serie A ført af Ribbit Capital, med First Harmonic
- 40 mio. dollar
- Samlet rejst kapital, inkl. 15 mio. dollar i seed
- 55 mio. dollar
- Antal scenarier AIUC sender hver agent igennem
- ca. 5.000 test
Standarden AIUC-1 låner fra SOC 2
AIUC har bygget en uafhængig revisions- og certificeringsordning for AI-agenter. Standarden hedder AIUC-1 og er skåret efter SOC 2, en udbredt cybersikkerhedsstandard. Kravene kommer fra et konsortium på omkring 250 sikkerheds- og risikofolk — altså dem, der køber agenterne.
Omkring 5.000 test afdækker, hvordan en agent klarer jailbreaks, hallucinationer og datalæk. Resultatet er en rapport på cirka 100 sider, der viser, hvor agenten er sikker og pålidelig, og hvor den ikke er. AI-agenter kører testene, og AI analyserer data, men mennesker verificerer den endelige revision, siger Kvist.
Ingen kan garantere systemets opførsel
Kvist peger på, hvorfor banker, hospitaler, myndigheder og militære enheder holder igen: ikke fordi modellerne er for dårlige, men fordi institutionerne har lovet deres kunder, hvad et system vil og ikke vil gøre — og det kan ingen garantere i dag, siger han.
Tanken ligner METR's arbejde for frontier-laboratorierne, hvor Dattani var driftsdirektør fra 2024 til 2025 og stadig sidder i bestyrelsen. METR har hidtil mest målt, om agenter kan løse opgaver. Anthropics topchef Dario Amodei har også efterlyst tredjepartsvurderinger. AIUC vil ikke sidde hos kunden, men give virksomheder en uafhængig vurdering, før de køber.
Flere detaljer
- AIUC står for Artificial Intelligence Underwriting Company
- Kunderne tæller ifølge selskabet Cursor, Lovable, Harvey og ElevenLabs
- Grundlæggerne Rune Kvist og Rajiv Dattani er svogre
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.