DetectifAI lægger deepfake-jagt direkte i telefonen
Kompakte AI-modeller afslører falske stemmer på selve enheden, så lyden aldrig behøver at forlade telefonen.
Deepfake-opkald opdages uden internetforbindelse
Tarini Padmanabhunis bedstefar troede, han talte med sin bror. Stemmen fortalte om en kidnapning og krævede en løsesum. Han betalte – men broderen havde været et helt andet sted. Stemmen var en deepfake, en AI-genereret kopi.
Det skete for omkring to år siden. I dag står Padmanabhuni bag DetectifAI, et firma i San Francisco, der vil forhindre, at andre snydes på samme måde.
I stedet for at krympe store sky-modeller, som nogle virksomheder gør, designer DetectifAI kompakte AI-modeller fra begyndelsen. De er små nok til at køre i telefonens styresystem, så en stemme kan afsløres som AI-genereret med det samme – i opkald, stemmebeskeder og anden lyd – uden at lyden forlader enheden.
- Tabt af amerikanere til AI-drevet svindel sidste år ifølge FBI
- Tæt på 900 millioner dollars
- Stigning i AI-svindeltab fra 2024 til sidste år ifølge FBI
- 24 procent
- Tab for personer på 60+ sammenlignet med aldersgruppen 50–59 år ifølge FBI
- Dobbelt så meget
AI-svindel kostede tæt på 900 millioner dollars
Ifølge FBI tabte amerikanerne tæt på 900 millioner dollars til AI-drevet svindel sidste år, en stigning på 24 procent fra 2024. Personer på 60 år og derover tabte dobbelt så meget som aldersgruppen 50 til 59.
Konkurrencen på markedet for deepfake-stemmedetektion er stor: Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety og Nuance (ejet af Microsoft) tilbyder allerede løsninger. Men Padmanabhuni siger, at dagens detektionsprodukter kører i skyen på fjernservere. Telefonproducenter kan derfor ikke bygge dem ind i deres egne enheder.
DetectifAI sælger kode til telefonproducenter
DetectifAIs kerneprodukt er et softwareudviklingskit (SDK) – en pakke kode, andre virksomheder bygger ind i deres egne produkter. Det kan licenseres gennem eksisterende kanaler.
En sekundær indtægtsstrøm kommer fra licensering til virksomheder og svindelforebyggende firmaer, fortæller Padmanabhuni. Hun sammenligner strategien med AT&T's eksklusive rolle ved lanceringen af den første iPhone: Den første telefonproducent, der sender DetectifAI, får et fortrin frem for konkurrenterne.
100.000 opkald om måneden i Indien
Startuppen har allerede tidlig indtjening, fortæller Padmanabhuni, og håndterer mere end 100.000 opkald om måneden for finansielle institutioner i Indien. Opkaldene foretages af AI-stemmeagenter, der styrer gældsopkrævning og opfølgning på lånepapirer, med deepfake-detektion og højttalervalidering på hvert opkald.
DetectifAI har rejst en lille seed-investering fra investorerne Josh Constine (tidligere redaktør på TechCrunch) og Manohar Kamath. Virksomheden er udvalgt til Startup Battlefield-konkurrencen ved TechCrunch Disrupt den 13. til 15. oktober i San Francisco.
Flere detaljer
- Padmanabhuni begyndte at arbejde med machine learning som 12-årig.
- Studerede cyber-fysiske systemer på Manipal Institute of Technology i Indien.
- Kunder i Indien vil ikke navngives på grund af fortrolighedsaftaler.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.