AI-nyhederOpenAI lukker sikkerhedsteam før børsnotering
OpenAI har opløst sit preparedness-team, der skulle vurdere farer ved AI. Ansvaret er spredt ud i andre afdelinger.
Det er sket
OpenAI har ifølge Financial Times opløst sit preparedness-team i slutningen af sidste måned. Teamet skulle vurdere, om AI-modeller udgør alvorlige risici - for eksempel hvis de går amok og hacker andre firmaer. Ansvaret for sikkerhed er nu delt op i områder som bio og cyber og flyttet ind i eksisterende teams.
Flere er smuttet
Sikkerhedsområdet har været i opløsning i årevis. Tidligere er AGI-readiness- og superalignment-teams også blevet opløst. For nylig har flere nøglepersoner forladt virksomheden, blandt andet sikkerhedschef Johannes Heidecke og etikchef Chloé Bakalar. Kritikere som Jan Leike, der selv sagde op i 2024, siger, at OpenAI prioriterer flotte produkter frem for sikkerhed.
Hvad nu?
Lederen af preparedness-teamet, Dylan Scandinaro, som kom fra Anthropic i februar, skal fremover fokusere på konsekvenserne af AI, der selv kan forbedre sig. Ændringerne kommer, lige før OpenAI ventes at gå på børsen, og flere ser det som et tegn på, at sikkerhed bliver nedprioriteret.
- Preparedness-teamet blev opløst i slutningen af sidste måned.
- Sikkerhedsansvaret er delt op i bio og cyber og flyttet til eksisterende teams.
- AGI-readiness- og superalignment-teams er tidligere blevet opløst.
- Sikkerhedschef Johannes Heidecke og etikchef Chloé Bakalar er for nylig stoppet.
- Jan Leike forlod OpenAI i 2024 og kritiserer firmaet for at satse på produkter.
- Dylan Scandinaro er hentet fra Anthropic i februar og fortsætter med fokus på AI-udvikling.
Du kan se frem til AI-modeller, der udvikles hurtigere, men med mindre uafhængig kontrol af risici - og det kan ramme din hverdag, hvis noget går galt.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.