AI-nyhederHarvestBench: Vil AI betale for at skåne dyr?
Forskere har lavet en test, der måler, om AI-assistenter vil betale for at undgå at slå dyr ihjel.
Det nye
Forskere har udviklet HarvestBench, en ny slags test til AI-systemer. Her skal AI'en vælge: Skal den betale for at skåne dyr under en opgave, eller tage den billigste vej? Det er nyt, fordi man normalt kun tester, om AI kan løse opgaver – ikke om den har hensyn.
Sådan virker det
I testen får AI'en en opgave, hvor et dyr kan komme til skade. For at undgå skaden skal den bruge ekstra ressourcer. Forskernes idé er at se, om maskinen reelt opgiver noget for at handle etisk. Det ligner et tankeeksperiment, men nu er det systematisk og målbart.
Hvad kan det bruges til
Hvis AI skal bruges i rigtige situationer – som landbrug eller transport – bliver det vigtigt at vide, om den lægger vægt på dyrevelfærd. Testen kan blive et redskab til at sammenligne forskellige AI-modeller og se, hvilke der har størst tilbøjelighed til at prioritere etiske hensyn.
Kritik og spørgsmål
Nogle vil sikkert spørge, om en maskine overhovedet kan have etiske holdninger – eller om den bare lærer at gætte det rigtige svar. Forskernes pointe er dog, at adfærd tæller. Hvis AI gentagne gange vælger at betale for at undgå at slå dyr ihjel, siger det noget om dens beslutninger.
- HarvestBench er en ny test udviklet af forskere.
- Testen måler, om AI betaler ekstra for at undgå dyreskader.
- Lignende tests fokuserer typisk kun på opgaveløsning.
- AI-modeller kan nu sammenlignes på etisk adfærd.
- Potentialet er brug i landbrug og transport.
- Det rejser spørgsmål om maskiners etiske ansvar.
Du kan med tiden møde AI-baserede systemer, som har truffet etiske valg på forhånd – fx når de bruges i fødevareproduktion. Testen er et skridt mod at gøre sådanne valg synlige og sammenlignelige.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.