În anul 1921 a comandat Regimentul 35 Cavalerie Independent, staționat în Irkutsk, și a jucat un rol important în aducerea la putere a liderului mongol Damdin Sükhbaatar, fondatorul Republicii Populare Mongole. Aici Rokosovski și-a cunoscut viitoarea soție, Julia Barminan, cu care s-a căsătorit în anul 1923. Fiica lor, Ariadna, s-a născut în anul 1925. În 1924 și 1925 a urmat la Leningrad cursurile Școlii Superioare de Cavalerie și apoi s-a întors în Mongolia, unde a instruit Armata Populară Mongolă. Curând după aceea, în timp ce era în Districtul Militar de Est, sub comanda lui Vasili Bliuher, a luat parte la Conflictul chino-sovietic (1929), când Uniunea Sovietică a intervenit pentru ca administrația căilor ferate din Manciuria să fie repusă sub administrație sovieto-chineză după ce seniorul războinic chinez Zhang Xueliang a încercat să preia controlul complet asupra căilor ferate din Manciuria.