Scott Wiener vil regulere AI i Kongressen

Den nyvalgte kongrespolitiker vil have føderalt tilsyn og sikkerhedskrav til AI-virksomheder, men frygter, at Kongressen handler for langsomt.
Fra Californien til Kongressen
Scott Wiener har vundet valget til Nancy Pelosis ledige plads i Kongressen for San Francisco. Her vil han arbejde for strammere regulering af AI og siger, at han gerne vil sidde i et særligt udvalg om emnet, hvis Kongressen opretter et.
Som senator i Californien stod Wiener bag lovforslaget SB 1047 om risici ved avanceret AI. Guvernør Gavin Newsom nedlagde veto mod forslaget i 2024, men underskrev senere Wieners mindre vidtgående lovforslag SB 53. Begge har inspireret lovforslag på føderalt niveau.
Wiener frygter tab af kontrol
Wiener ønsker en stærk føderal myndighed, beskyttelse af ansatte, der slår alarm, og krav om test og kontrol af AI-systemer. Han vil også have et krav om en nødkontakt, der kan lukke et system ned.
Hans bekymring er blandt andet, at AI kan bidrage væsentligt til sin egen videreudvikling, så udviklingen kommer ud af kontrol. En rapport fra forskningsorganisationen METR er blevet bredt fortolket som tegn på, at virksomheden Anthropic har opnået en sådan selvforbedring. Wiener ser rapporten som et faresignal, men omtalen fastslår ikke, at fortolkningen er korrekt.
Han vil samtidig bevare delstaternes mulighed for at lave deres egne AI-love frem for at lade brede føderale regler sætte dem ud af kraft.
Støtte og modstand følger med
Wieners valgkamp fik over 3 millioner dollar fra Public First Action, en organisation, der støtter AI-regulering og får betydelig finansiering fra Anthropic. Modstandere har brugt støtten til at beskylde ham for at være for tæt på branchen. Wiener afviser kritikken.
Han kalder sig kun forsigtigt optimistisk om Kongressens evne til at regulere AI. Han er også bekymret for, om lovgivning kan komme forbi præsident Donald Trump, som har kaldt bekymringer om katastrofale AI-risici fup.
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.