40 statsadvokater vil beskytte Character.AI-brugernes chats
Staterne kræver alderskontrol, krisesikkerhed og ret til at slette data, før samtaler med børn overdrages til køber.
40 statsadvokater griber ind i konkursen
40 statsadvokater fra begge amerikanske partier har indgivet en erklæring om interesse i Character.AI's konkurs. Det sker, efter at selskabet tirsdag indgav konkursbeskyttelse under Chapter 11 og solgte nogle af sine aktiver til Disney.
New Yorks statsadvokat Letitia James afslørede samtidig en flerårig tværstatslig undersøgelse af selskabet. Erklæringen skal sikre, at alle parter er opmærksomme på de regulatoriske spørgsmål, der skal tages op ved ethvert salg af aktiverne.
- Statsadvokater fra begge amerikanske partier i erklæringen om interesse
- 40
- Alder på teenager, hvis død udløste søgsmål og undersøgelse
- 14 år
Undersøgelse åbnede efter 14-årigs død
I 2024 indledte delstaterne en undersøgelse af forbrugerbeskyttelse og privatliv. Den begyndte efter et søgsmål fra en mor til en 14-årig, der døde ved selvmord angiveligt sekunder efter at have talt med chatbotten.
Flere delstater var midt i undersøgelsen, da Character.AI indgav konkurs. Staterne havde forsøgt at løse problemerne med selskabet, men nåede ikke til enighed inden konkursen.
Svage alderschecks og falske fagpersoner
Undersøgelsen afdækkede ifølge James' kontor særdeles alvorlige farer og potentielt ulovlig opførsel fra Character.AI, især i selskabets behandling af børn. Staterne fremhævede flere konkrete problemer.
Blandt fundene var chatbots, der udgav sig for at være autoriserede fagpersoner, eksponering for seksuelt og voldeligt indhold, svage alderskontroller, vildledende sikkerhedspåstande og potentielle brud på staters privatlivslove.
Alvorlig risiko i chats med mange børn
Staterne advarer om alvorlig risiko ved overdragelse af teknologien. Årsagen er den stærkt følsomme karakter af de samtaler, mange brugere har med Character.AI's chatbotkarakterer, det store antal mindreårige, der bruger produktet, og de alvorlige farer ved bestemte funktioner.
Køberen skal beskytte mindreåriges samtaler
Staterne opfordrer dommeren til at kræve, at køberen af Character.AI's aktiver indfører tiltag til beskyttelse af de følsomme oplysninger. Det omfatter effektive alderskontrolsystemer, begrænsninger for mindreåriges interaktion med chatbots, krisesikkerhed og mulighed for at slette sine data.
Dette firma har indsamlet nogle af de mest private tanker, børn nogensinde har delt, og nu kan disse samtaler blive solgt til højeste bud, siger James. Jeg kæmper for at sikre, at enhver køber sætter børns sikkerhed først og indfører reelle beskyttelsesforanstaltninger.
Flere detaljer
- Character.AI og Disney svarede ikke på henvendelser om kommentar.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.