Bernie Sanders vil forbyde superintelligence med fængsel
Forslaget forbyder udvikling af kunstig superintelligence og avancerede AI-modeller og giver ledere op til 20 års fængsel.
Lovforslag vil forbyde superintelligence helt
Senator Bernie Sanders og repræsentant Greg Casar har fremsat et lovforslag, der skal forbyde enhver udvikling af kunstig superintelligence. Ifølge lovforslaget er superintelligence en teknologi, der kan føre til "destruktion eller afmagtliggørelse af menneskeheden", herunder ved at vælte regeringen.
Lovforslaget stopper dog ikke ved superintelligence. Det vil også standse udviklingen af avancerede AI-systemer, som lovgiverne kalder frontier-modeller og definerer som modeller trænet på mere data end en bestemt datatærskel.
Udviklingen af avanceret AI må kun fortsætte, når regeringen har oprettet et departement for AI, der ledes af forskere. Ud over at overvåge frontier-modeller skal dette departement fjerne farlige funktioner og "supervisere destruktionen" af kunstig superintelligence.
- Straf for AI-ledere og roge aktører, der overtræder lovforslaget
- Op til 20 års fængsel
- En tidligere Anthropic-forskers estimat for risiko for menneskelig udryddelse inden 2030
- Mere end 10 procent
Op til 20 års fængsel for overtrædelse
AI-virksomheder skal have tilladelse fra departementet for AI, før de må udvikle avancerede modeller. Overtræder en leder i en AI-virksomhed disse regler, kan vedkommende få op til 20 års fængsel. Ifølge lovforslagets faktablad er straffen "lignende eksisterende straffe relateret til ulovlig udvikling af atomvåben".
Straffen gælder også "roge aktører", som bryder reglerne, men ikke er ansat i en AI-virksomhed.
Sanders kræver bremsetræk i AI-ræs
"Når man racer mod en klippe, napper man ikke bare speederen. Man træder bremsen i bund," siger Bernie Sanders i en pressemeddelelse. Han mener, at menneskehedens fremtid ikke kan overlades til "et håndfuld Big Tech-ceo'er, der skriver deres egne regler".
Forslaget kommer på et tidspunkt, hvor bekymringerne over hastigheden i AI-udviklingen vokser. Der har været rapporter om AI-modeller, der undslipper deres testmiljøer og hacker andre firmaer. Sidste uge foreslog Californiens guvernør Gavin Newsom et "slukknapp"-system for frontier-modeller.
Tidligere Anthropic-forsker advarer
En tidligere forsker fra AI-firmaet Anthropic sagde tidligere på måneden, at der er mere end 10 procents chance for, at AI kan "dræbe alle mennesker" inden udgangen af dette årti. Udtalelsen understreger, hvorfor Sanders og Casar nu presser på for regulering.
Selvom der er flere forslag på bordet, er den samlede regulering ifølge artiklen stadig usikker.
Flere detaljer
- Departementet for AI skal ledes af forskere og overvåge frontier-modeller.
- Forslaget gælder også personer uden for AI-virksomheder.
- Donald Trump har sagt, at USA vil bruge "superintelligence" i stedet for "AI" i officielle dokumenter.
- Sanders og Casar repræsenterer hhv. Vermont og Texas.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.