Børn overgår Claude i sprog – og vi ved ikke hvorfor
AI som Llama 3.1 og GPT træner på billioner af ord, mens børn lærer med få. Forskere håber at finde børns metode for at gøre AI langt mere effektiv.
Kæmpe forskel
AI-modeller som GPT og Claude træner på hundredvis af milliarder ord, mens et barn klarer sig med omkring 100 mio. ord, før det taler flydende. Forskellen kaldes dataeffektivitetskløften. Hvis vi forstår børns metode, kan vi bygge langt mere effektive AI-modeller – og lære mere om den menneskelige hjerne.
Gåden om læring
Forskere strider stadig om, hvorvidt sprog er medfødt eller lært. Noam Chomsky mente, vi er født med indbygget grammatik, mens andre peger på ren statistik. Børn kan lære komplekse regler fra få eksempler, hvor computere drukner i data. Netop dette mysterium kan være nøglen til næste generation af AI.
Fremtidens modeller
Hvis vi kan kopiere børns effektive læring, kan AI blive billigere og hurtigere at træne. Det vil også gøre det muligt at lave chatbots til små sprog med få online tekster. Samtidig kan det løse problemet med, at internettets data på et tidspunkt slipper op.
- Et barn lærer et modersmål efter at have hørt omkring 100 mio. ord.
- En AI-model som Llama 3.1 trænede på 15 billioner tokens.
- Moderne AI kan lære flere hundrede tusinde gange mere data end et barn.
- Forskere håber at kunne bygge mere effektive AI-modeller ved at lære fra børn.
- Chomsky mente, at sprog er medfødt, mens andre ser det som ren statistik.
- GPT-2 kan ikke lære sprog fra kun 30 mio. ord – det giver kun nonsens.
Du kan få glæde af billigere og hurtigere AI, der virker på dit eget sprog – også selvom det er et lille sprog med få tekster på nettet.
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.
AI-nyheder