Garry Tan: Lad åbne laboratorier destillere frit
Y Combinator-chefen afviser forbud mod kinesisk destillation og vil hellere give amerikanske åbne modeller adgang til frontmodellernes viden.
Vil have et amerikansk destilleringsregime
Garry Tan, administrerende direktør i startup-acceleratoren Y Combinator, vil ikke forbyde kinesiske AI-laboratorier at destillere amerikanske frontmodeller. »Jeg ville ikke gøre noget,« sagde han til CNBC tidligere på ugen og tilføjede: »Man kan argumentere for, at der burde findes et amerikansk destilleringsregime.«
Destillation betyder, at én model gentagne gange stiller spørgsmål til en anden model for at lære, hvordan den arbejder og ræsonnerer. Metoden bruges helt legitimt af AI-laboratorier til at træne nye modeller.
Anthropic: Kinesiske angreb er ulovlige
Tan er uenig med Anthropic. Laboratoriet udgav denne uge sin anden rapport, der anklager kinesiske laboratorier for »ulovlige destillationsangreb«: De skjuler deres identitet for at destillere uden tilladelse og bruger svindel og stjålne loginoplysninger. Anthropics topchef, Dario Amodei, har tidligere offentligt opfordret amerikanske myndigheder til at slå hårdt ned på destillation.
Adgang gennem hoveddøren, ikke bagdøren
Tan opfordrer ikke amerikanske laboratorier til at bruge stjålne loginoplysninger. De skal kunne komme ind ad hoveddøren, siger han, og hans argument har to ben.
For det første mener han, at det er et overgreb, når AI-laboratorier vil bestemme, hvad kunderne må gøre med den information, modellerne giver dem. For det andet peger han på, at de lukkede laboratorier ikke selv bad om lov, da de sugede menneskelig viden til sig — de har efter sigende slugt store mængder ophavsretligt beskyttet materiale uden rettighedshavernes tilladelse.
Frygter ét enkelt monolitiskt selskab
Tan vil se en balance mellem åbne og lukkede laboratorier. »De er ved fronten og driver den fremad. Det vil vi gerne kunne finansiere, og det skal være en god forretning,« sagde han til CNBC.
Hans mareridtsscenarie er, at al frontmodellernes kraft ender hos én enkelt lukket udbyder. »Dommedagsscenariet for AI er, at der bare er ét selskab,« siger han. »Det har den bedste adgang til kapital. Det har de bedste AI-forskere. Det løber af med det hele, og pludselig er der ét selskab, der er monolitiskt. Og det ville være skidt.«
Flere detaljer
- Y Combinator er en af Silicon Valleys mest kendte startup-acceleratorer.
- Tan har selv beskrevet sig som ramt af »cyberpsykose« på grund af sit store forbrug af AI.
- Anthropics rapport er den anden i rækken om kinesisk destillation.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.