Påvirket av Lundell bestemte Karlgren seg for å prøve å tillempe den sammenlignende historiske fonologiens metoder på kinesisk, noe som ingen så langt hadde studert under denne synsvinkel. Ettersom det ikke fantes noen undervisning på kinesisk i Sverige den gang begav Karlgren seg til St. Petersburg der han studerte språket under A. I. Ivanov. Årene 1910-12 bodde Karlgren i Kina, der han studerte kinesisk og utarbeidet beskrivelser av 24 forskjellige kinesiske dialekter.