USA: Seks kinesiske AI-firmaer stjæler fra os

Efterretningstjenester beskylder DeepSeek, Alibaba og fire andre for systematisk at kopiere indholdet i amerikanske AI-modeller som GPT og Gemini.

Det handler om

NSA, CISA og FBI sagde i en fælles erklæring, at de seks kinesiske firmaer mindst siden slutningen af 2024 har udført målrettede angreb for at udvinde egenskaberne fra avancerede amerikanske AI-modeller. Ifølge myndighederne har firmaerne formentlig arbejdet med viden fra den kinesiske stat, og metoderne spænder fra omfattende brug af falske konti til manipulation af modellernes interne ræsonnement.

Metoderne

Angriberne køber bulk-abonnementer og opretter tusindvis af falske profiler, der sender næsten identiske forespørgsler mod modellerne - ofte millioner af gange om dagen. De bruger også såkaldte 'prompt injection'-teknikker til at narre modellerne til at afsløre deres skjulte tankeprocesser. DeepSeek skulle eksempelvis have bedt modellerne om at forklare deres ræsonnementer skridt for skridt.

De nye våben

Myndighederne opfordrer nu alle amerikanske AI-virksomheder til at indføre skrappere overvågning og til at narre de mistænkelige kinesiske brugere ved at give dem hemmeligt forringede svar. I nogle tilfælde foreslår de, at firmaerne i al ubemærkethed bytter de mistænkelige profiler om til en mindre dygtig model, uden at brugerne får besked.

Det er ikke nemt

De kinesiske firmaer er så sofistikerede, at de automatisk kan opdage, når en bedre model bliver tilgængelig, og skifte strategi inden for 24 timer. De har også kvalitetssystemer, der fanger, hvis output bliver ringere. Risikoen er, at helt almindelige brugere - også i USA - ved en fejl kan blive ofre for de skjulte nedgraderinger.

Kilder:
Ars Technica AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.