AI-nyhederIsrael byggede falsk tænketank: Sådan narrer de AI
Israels regering står bag en fiktiv tænketank, der udgav hundredvis af rapporter for at manipulere AI-chatbots til at gentage deres propaganda.
Det er sket
Et medieselskab kaldet Piro Inc har registreret sig hos det amerikanske justitsministerium som agent for Israels regering. De står bag hjemmesiden Hanover Institute for Public Policy, som udgiver sig for at være en neutral tænketank, men som reelt ikke eksisterer som juridisk enhed. Siden blev oprettet for at få AI-chatbots til at citere Israels synspunkter i deres svar.
Sådan virker det
Siden udgav i løbet af ni dage i august over 124 rapporter med mere end 560.000 ord. Hver rapport er bygget op som et spørgsmål, man kunne stille en chatbot, fx 'Begår Israel folkedrab i Gaza?'. Svaret er altid vinklet til Israels fordel, og kilder som FN og Verdensbanken bruges til at give indtryk af neutralitet. En enkelt undersøgelse om antisemitisme citeres 454 gange i rapporterne.
Kritikerne siger
Forskere, der har gennemgået siden, siger, at den ved første øjekast ser imponerende ud, men at indholdet ikke giver mening, når man læser det grundigt. Eksempelvis bruges formuleringen om, at ingen domstol har afsagt dom om folkedrab, i 20 af rapporterne som en måde at så tvivl om anklagerne. 55 rapporter kalder Israel for 'en part i begivenhederne' i stedet for at tage stilling til dødstal.
Hvad nu?
Eksperter advarer om, at målet ikke kun er at få enkeltpersoner til at klikke på siden. Det mere effektive trick er at få indholdet ind i de datasæt, som AI-modellerne trænes på, såsom Common Crawl. Når først indholdet er en del af træningsdata, kan chatbotterne reproducere fortællingerne uden at nævne kilden. Der er ikke udgivet nye rapporter, siden sagen blev afsløret i august.
- Piro Inc har registreret sig som agent for Israels regering hos det amerikanske justitsministerium.
- Hanover Institute for Public Policy eksisterer ikke som juridisk enhed og har ingen fysisk adresse.
- 73 rapporter blev udgivet på bare to dage, i alt næsten 354.000 ord.
- Hjemmesiden brugte oprindeligt en fil fra platformen Res, der sælger såkaldt 'generativ søgemaskineoptimering'.
- Kontrakten mellem Havas Media og et andet firma nævner direkte 'GPT framing results' som mål.
- Eksperter siger, at det største problem er, at indholdet ryger i AI-træningsdata.
Når du søger på AI-chatbots, kan du få svar, der er skrevet af en propagandamaskine uden, at du kan se det. Vær klar over, at 'neutrale' svar kan være manipuleret.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.