Peter David Fagan vil måle AI-bevidsthed

Fysikeren Peter David Fagan foreslår at bruge klassiske tankeeksperimenter til at teste, om AI-systemer har bevidsthed. Det er vigtigt for sikkerheden, siger han.

Det nye forslag

Forskeren Peter David Fagan har genbesøgt nogle af filosofiens ældste tankeeksperimenter – som filosoffen John Searles kinesiske værelse – for at se, om de kan laves om til konkrete tests for AI-bevidsthed. Ideen er at give AI-udviklere et redskab til at vurdere, om deres systemer måske har en form for indre liv – noget, der kan få store konsekvenser for, hvordan vi behandler maskiner.

Hvorfor nu?

AI bliver hurtigt bedre til at tale og handle som mennesker, men ingen ved, om der gemmer sig noget bevidst indeni. Fagan mener, at vi ikke kan vente, til forskerne bliver enige om en præcis definition af bevidsthed. Derfor foreslår han en praktisk tilgang: Brug de klassiske eksperimenter som rettesnor for, hvad vi skal kigge efter – og tag sikkerhedsforanstaltninger, hvis en test tyder på, at et AI-system faktisk oplever noget.

Uenighed og kritik

Flere forskere er uenige – tankeeksperimenter er kontroversielle, fordi de ofte er lavet for at afsløre logiske fejl, ikke som egentlige målemetoder. Nogle mener, at bevidsthed slet ikke kan måles på den måde, og at fokus i stedet bør være på at forhindre, at AI gør skade – uanset om den er bevidst eller ej. Debatten er langt fra slut.

Hvad nu?

Fagan opfordrer til, at AI-virksomheder begynder at teste deres egne systemer med disse metoder allerede nu, og at man laver klare retningslinjer for, hvad man gør, hvis en test viser tegn på bevidsthed. Det kan blive et vigtigt skridt mod at undgå fremtidige etiske problemer – og måske endda juridisk beskyttelse af AI-systemer.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.