Helen Toner advarer mod blind tillid til AI-chefer

Den tidligere OpenAI-bestyrelsesmedlem mener, at AI-sikkerhed ikke kan hvile på, at én leder træffer de rigtige valg.
En advarsel efter OpenAI-striden
Helen Toner mener ikke, at samfundets plan for AI-sikkerhed bør afhænge af, om en enkelt person er til at stole på. Det siger hun i et nyt interview med The Verge.
Toner var et af fire bestyrelsesmedlemmer, der stemte for at fyre OpenAI’s topchef Sam Altman. Han vendte tilbage som direktør, mens Toner forlod bestyrelsen, og en ny bestyrelse blev indsat. Selskabet har siden ændret sin struktur.
Bestyrelsen skulle holde væksten i skak
OpenAI’s daværende nonprofitbestyrelse havde til opgave at sikre, at virksomheden ikke satte profit og vækst over målet om at udvikle sikker AI. Ifølge The Verge brød den kontrolmekanisme sammen, da bestyrelsen forsøgte at afsætte Altman.
Den gamle konflikt er baggrunden for Toners aktuelle advarsel. Hendes pointe er bredere end spørgsmålet om én bestemt chef: Sikkerheden bør ikke stå og falde med tilliden til en enkelt person.
Frivillig aftale lægger ansvar hos bestyrelser
Spørgsmålet er aktuelt, fordi Det Hvide Hus ifølge The Verge har svaret på AI-chefers ønske om hjælp med en frivillig aftale. Den bygger blandt andet på, at virksomhedernes bestyrelser holder ledelsen ansvarlig.
Toner leder i dag Center for Security and Emerging Technology ved Georgetown University. Centret analyserer nye teknologier og sikkerhedsspørgsmål for at give politikere et bedre grundlag for deres beslutninger.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.