Fra 1922 til 1928 var Konev kommissær for 17. divisjon, gikk så på krigsskole og så ved Frunse-militærakademiet. Fra 1931 til 1938 kommanderte han en divisjon i 2. selvstendige Fjerne østen-armé. Fra 1938 til 1941 kommanderte han så hele denne armeen, og ble derpå kommandant for militærdistriktet Bajkal.