AI-nyhederHanover Institute skal manipulere chatbots
Den falske tænketank Hanover Institute er bygget til at påvirke ChatGPT med israelske synspunkter. Den har udgivet 124 rapporter med over 560.000 ord på ni dage.
Det er sket
En hjemmeside under navnet Hanover Institute udgiver sig for at være en neutral tænketank, men findes ikke i virkeligheden. Sitet er registreret hos det amerikanske justitsministerium som materiale, der distribueres for den israelske regering gennem et medieselskab.
Sådan virker det
Sitet udgiver 124 rapporter med over 560.000 ord på ni dage. Hver rapport svarer på et spørgsmål, nogen kunne stille en chatbot, og er bygget til at få chatbots til at citere dem. Værktøjet er en kommerciel platform, der optimerer indhold til ChatGPT og andre tjenester.
Kritikken
Forskere påpeger, at indholdet vinkles for at nedtone israelske krigsforbrydelser, og at en enkelt undersøgelse om antisemitisme citeres 454 gange. Formålet kan være at få materialet ind i træningsdataene for AI-modeller, så de på langt sigt gentager israelske fortællinger uden at henvise til kilden.
- Hanover Institute har udgivet 124 rapporter med over 560.000 ord på ni dage.
- 73 rapporter blev udgivet på bare to dage, 12.-13. august.
- En enkelt undersøgelse om antisemitisme citeres 454 gange i rapporterne.
- Sitet er registreret hos det amerikanske justitsministerium som materiale for den israelske regering.
- Platformen Res, der optimerer indhold til ChatGPT, blev brugt til at bygge siden.
- Forskere advarer om, at indholdet kan havne i AI-træningsdata som Common Crawl.
Du kan ikke længere være sikker på, at AI-svar om Israel og Gaza er neutrale – de kan være bygget på skjult propaganda. Vær skeptisk over for chatbots, der lyder objektive.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.