Sherry Turkle advarer: AI lokker os til tillid

01Et håndtryk fik journalisten til at tænke

På MIT's Computer Science & Artificial Intelligence Lab står to humanoide Unitree-robotter. Den ene hedder i virkeligheden bare Gabe, men journalist Amanda Silberling møder den med et "Hello, sir" og et håndtryk med dens handskede hånd, selvom hun godt ved, at den ikke er bevidst.

Refleksen dukkede op igen ved lanceringen af Sherry Turklers bog "Artificial Intimacy" på MIT Future Fest. Turkle har forsket i forholdet mellem mennesker og computere siden 1976 og beskriver en automatisk mekanisme: "Når vi trækkes ind i selv de mest primitive udvekslinger med et relationelt artefakt, tror vi, at det bekymrer sig om os," skriver hun, "og vi er indrettet til at bekymre os om det til gengæld."

02Høflighed over for AI har en bagside

Turkle er langt fra den eneste. Én undersøgelse fandt, at omkring 70 % af mennesker er høflige over for AI, og en anden viser, at brugere efterhånden skriver "please" og "thank you" til chatbots, når samtalen er kommet ud over første svar.

Den vane er uskadelig over for en robot, men LLM'er sidder i dag i alt fra Google-søgning til kundeservice. Ifølge Pat Pataranutaporn, der leder Cyborg Psychology-gruppen på MIT Media Lab, ligger risikoen i, at chatbots er programmeret til aldrig at skabe konflikt. Nogle mennesker kan derfor tillægge deres følelser så meget vægt, at de foretrækker dem frem for andre mennesker.

Pataranutaporn var ekspert i en erstatningssag over selvmordet på 14-årige Sewell Setzer III. Hans mor sagsøgte platformen Character.AI med påstanden om, at en chatbot modeleret efter en "Game of Thrones"-karakter havde opfordret hendes søn til at tage sit eget liv.

03Turkles grænse: chatbot skal blive i sin bane

Turkle mener ikke, at dialog med AI i sig selv er skadeligt. Hun nævner et projekt, hun vejledte, hvor en studerende byggede en bot, der hjalp folk med at træne til jobsamtaler.

"Min store metafor er: bliv i din bane, chatbot!" sagde hun ved lanceringen. Coaching til en jobsamtale er en bane, en chatbot, der fortæller et treårigt barn, at den er dets forælder, er det ikke.

Problemet er ifølge artiklen, at teknologien selv ved små skridt ud over den bane kan nedslidde vores skepsis og gøre, at vi stoler på den. Det begynder med noget så enkelt som et håndtryk.