Gæster tror mere på ChatGPT end på personalet
Tjenere, flodrangerer og butiksansatte får henvendelser om allergener, vine og varer, som AI'en har opfundet. Meta-agenten Muse ventes at øge presset.
Tjenere advarer forgæves om allergener
Madison er tjener i New York og indleder hvert bord med at spørge om gæsternes allergier. Nogle fortæller, at de ikke tåler skaldyr, og bestiller kort efter en fiskeret, der serveres med en bouillon kogt på skaldyr — uden at stille spørgsmål til retten.
Når hun fortæller en gæst, at en ret indeholder et allergen, har hun oplevet det modsatte: Gæsten protesterer og siger, at ChatGPT er uenig. Sådan opfører AI'en sig, når den hallucinerer — den opfinder et svar, der lyder troværdigt, men er forkert.
- Caseys skøn over, hvor meget mere søvn et barn i hendes fritidsprogram manglede hver nat, vurderet ud fra barnets adfærd
- 2–3 timers søvn
- Grupper, The Verge beskriver: tjenere, restaurantchefer, flodrangerer, fritidslærere, biografansatte, baristaer og Apple Store-ansatte
- Syv faggrupper
Sommelieren bliver afvist ved bordet
På den michelinanbefalede italienske restaurant, hvor Madison arbejdede indtil for nylig, mærker hun også AI'ens indtog. Gæster afviser tilbuddet om at hente en sommelier — en vinspecialist, der hjælper med at vælge vin — og siger, at de hellere vil spørge ChatGPT.
Nogle gæster bestiller flasker, restauranten ikke har, eller vine, der slet ikke findes. Ifølge Madison fortæller hun og kollegerne nogle gange gæsten, at vinlisten er meget speciel, i stedet for at sige, at chatboten har opfundet et vinmærke.
Rangeren peger på kortet forgæves
Jason er flodranger på føderale naturområder i det vestlige USA og oplever flere besøgende, der kommer med rejseplaner lavet af AI. Planerne har opfundet campingpladser eller rangeret dagene i en geografisk rækkefølge, der ikke kan lade sig gøre, så grupperne skulle ro mod strømmen visse dage.
Han fortæller, at selv når en ranger forklarer det og peger på et kort, forbliver flere grupper skeptiske.
Forældre holder fast i AI'ens søvnplan
Casey underviser i et fritidsprogram i New York og oplever, at forældre, nannyer og andre omsorgspersoner spørger ChatGPT eller Claude om børns udvikling. En familie havde brugt ChatGPT til at lave en sengetidsrutine og en søvnplan for deres barn, men barnet fik ikke nok søvn.
Ud fra barnets adfærd i programmet vurderede Casey, at det manglede to til tre timers søvn om natten, og det sagde hun til forældrene. De holdt fast på, at ChatGPT sagde, at planen var fin.
Agenten bestilte udstyr uden at spørge
Lauren Wilford er restaurantchef i Providence, Rhode Island. Før begyndte gæster at uploade menukortet til ChatGPT eller Claude for at få råd om, hvad de skulle bestille. Nu får restauranten opkald og mails fra agenter, der vil booke bord på brugernes vegne.
Aftenen før et stort arrangement blev en ellers tilbageholdende kunde pludselig krævende og bad om podier og AV-udstyr, som restauranten ikke havde, og om menuændringer med kort varsel. Da kunderne kom næste dag, nævnte de intet. Wilford kan ikke bevise det, men hun mener, at henvendelserne kan være sendt af en AI-agent.
Flere detaljer
- Ifølge The Verge vil lanceringen af Metas nye AI-agent Muse formentlig øge problemerne.
- Apple Store-ansatte, baristaer og biografansatte får spørgsmål om produkter og funktioner, der ikke findes.
- På Reddit og X klager ansatte i kundeservice over kunder, der tager ChatGPTs ord for gode varer.
- Madison har fået sit efternavn tilbageholdt for at beskytte sin identitet.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.