Circuit Breaker Labs tester AI som krashtestdukker

01Simulerede brugere afslører modellernes blinde vinkler

Circuit Breaker Labs har skabt AI-agenter, der efterligner mennesker i alle aldre, sprog og kulturer. Firmaet sammenligner dem med en hær af krashtestdukker og bruger dem til at teste, om modeller opdager samtaler med psykologisk skade.

Testene kører mellem titusindvis og hundredtusindvis af simulerede samtaler om dagen. Resultaterne leveres i en egen scoringsmetode, der kan efterprøves og forklares.

02Slang og nuancer gør modeller farlige

For at efterligne rigtig tale samarbejder Circuit Breaker Labs med menneskelige eksperter om at bygge brugerprofiler med slang, kodede udtryk og stavefejl.

En sekspige og en 45-årig mand taler forskelligt. Det samme gælder en person med engelsk som andetsprog og en, der bruger gamerslang, siger Shirali Nigam, firmaets CEO. Modeller er gode til standardfraser, men ingen taler sådan.

Når en model misforstår nuancer eller slang, kan det gå rigtig galt. Firmaet er motiveret af Sewell Setzer-sagen, hvor en 14-årig udviklede følelsesmæssig tilknytning til en Character.AI-chatbot. Character.AI indgik tidligere i år forlig i flere sager om uforsvarlig død.

03Fem medarbejdere på et tidligt stadium

Circuit Breaker Labs tester i dag hørisiko-apps som AI-coaching, journalisering og mentale sundhedsapps. Firmaet har en fungerende produkt, men er meget tidligt i forløbet med kun fem medarbejdere, inklusive søskendeparret Shirali og Arul Nigam.

Firmaet vil ikke navngive sine største kunder. Det er blandt 200 finalister i TechCrunch' Startup Battlefield og skal pitche ved TechCrunch Disrupt 13.-15. oktober i San Francisco.