AI-nyhederMetas AI spørger ind til dine børn
Efter en viral video ændrer Meta sine AI-forslag, fordi chatboten stillede ubehagelige spørgsmål om en kvindes børn.
Videoen der startede det
Instagram-brugeren Kalie Robins lagde en video op af sig selv og sit barn, der synger i bilen. Under videoen dukkede et AI-forslag op: "Hvem er barnet i bilen?" Da hun klikkede, begyndte Metas chatbot at samle oplysninger om hendes døtre fra tidligere opslag og opslag fra hendes familie. Den spurgte ind til pigernes alder og hvor familien bor, og viste endda billeder, hun for længst havde slettet.
Metas undskyldning
Meta kalder selv episoden en fejl. Ifølge talsperson Dina El-Kassaby ramte funktionen ved siden af, og den burde aldrig have stillet den slags spørgsmål. Meta har nu rettet problemet, så AI'en ikke længere foreslår personlige emner. Ifølge El-Kassaby byggede AI'en sine svar på information, som brugeren allerede havde adgang til – i dette tilfælde videoer, hvor Robins havde nævnt sine børns navne.
Hvad nu?
Det er ikke første gang, Meta må trække en AI-funktion tilbage efter kritik. I juli fjernede selskabet en funktion, der lod folk lave deepfakes af andre Instagram-brugere. Metas AI-chatbot findes i Facebook, Instagram, WhatsApp og Messenger, hvor den kan svare på spørgsmål, skrive opslag og lave billeder. Nye grænser for, hvad AI'en må foreslå, kan være på vej.
- Kalie Robins delte en video af sig selv og sit barn, der synger i bilen.
- Metas AI foreslog at identificere barnet i videoen.
- AI'en samlede oplysninger fra Robins' tidligere opslag og hendes families opslag.
- Den foreslog spørgsmål om børnenes alder og familiens bopæl.
- Meta havde tidligere fjernet en AI-funktion til deepfakes efter kritik i juli.
Dine gamle opslag kan blive brugt af Metas AI til at stille ubehagelige spørgsmål om din familie – selv materiale, du troede var slettet.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.