AlphaGo-agtig søgning mangler i dagens AI

01Træk 37 var søgning, ikke intuition

I marts 2016 lagde AlphaGo et sten på femte linje i kamp to mod Go-mesteren Lee Sedol. Kommentatorer troede, det var en fejl. Det var ikke – AlphaGo vandt kampen og matchen 4-1.

Men trækket var ikke ren maskinintuition. AlphaGo havde to dele: et nevralt netværk, der gættede, hvad en stærk menneskelig spiller ville gøre, og en søgemaskine, der byggede et spilstræ med tusindvis af grene og vejede konsekvenserne af hvert træk. Det var søgningen, der gjorde trækket muligt.

02Dagens AI-kæder er bare længere forudsigelser

Store sprogmodeller som ChatGPT vælger ét ord ad gangen – hurtigt og mønstergenkendende, svarende til den hurtige, mavefornemmelsesagtige del af menneskelig tænkning.

For at efterligne langsom, gennemtænkt ræsonnering kan modeller nu producere mellemskridt, der bryder et problem op. I matematik og programmering virker det. Men skridtene kommer stadig fra samme forudsigelsesproces, bare kørt længere – ikke fra et separat ræsonneringsapparat.

Forskning har vist, at sprogmodeller ofte finder svaret først og bygger en ræsonneringskæde bagefter for at forklare det.

03Tre huller stopper ægte ræsonnering

En videnskabelig tilgang kræver tre ting, som dagens chatbots mangler:

Først mangler de et synligt, opdaterbart dokument over, hvad systemet tror, tvivler på og har udelukket. For det andet er viden og tænkning flettet sammen i netværkets vægte – der er ingen separat liste over tro. For det tredje er de rapporterede ræsonneringskæder ofte efterrationaliseringer.

I medicin og forskning betyder det noget, hvordan en konklusion opnås, ikke kun hvad den er, for fejl skal kunne spores.

04Ny tilgang vil bygge AlphaGo's træ ind

Forfatteren har forladt Google DeepMind for at forfølge en ny metode: lad systemet vedligeholde en eksplicit tilstandsbeskrivelse af sin viden – som AlphaGo's spilstræ – og definér ræsonnering som træk, der opdaterer denne tilstand.

Ræsonnering bliver så: udlede konsekvenser, dele problemer op og beslutte, hvilket spørgsmål man skal stille næste gang.

Ræsonnering i den åbne verden er sværere end et brætspil, fordi verden kun er delvist kendt og handlingsmulighederne er mange.