W 1918 r. wstąpił na służbę do Armii Czerwonej. W sierpniu tego roku powierzono mu dowodzenie północnym odcinkiem oddziałów zasłony, następnie od września do listopada 1918 r. dowodził 6 Armią, w listopadzie przeniesiono go na stanowisko dowódcy 8 Armii. 24 stycznia 1919 r. został dowódcą Frontu Południowego Armii Czerwonej, zastępując Pēterisa Slavensa, który przeszedł na stronę białych. Okazał się jednym z najzdolniejszych dowódców po stronie czerwonych w rosyjskiej wojnie domowej. Do kwietnia 1919 r. dowodzony przez niego front przeszedł do ofensywy, odzyskał z rąk białych Rostów nad Donem i osiągnął linie Sału i Manycza. Był bliski całkowitego rozbicia sił białych Kozaków dońskich pod dowództwem Piotra Krasnowa. Niepowodzeniem zakończył się natomiast przerzut 8 Armii do Donbasu na pomoc walczącej o opanowanie zagłębia węglowego grupie Innokientija Kożewnikowa (następnie 13 Armii). Siły te nie zdołały z powodu wiosennych roztopów szybko przemieścić się na zachód i w ostatnich dniach marca zostały powstrzymane przez białych.