Nell'estete del 1919, Jakir venne inviato in Ucraina al comando di una divisione di fucilieri, e nell'agosto 1919, divenne il comandante del gruppo meridionale della 12ª Armata, che includeva la 45ª e la 58ª divisione di fucilieri. Entrambe le divisioni furono circondante dalle forze nemiche a Odessa. Jakir mise in atto una delle più inusuali operazioni militari della guerra civile. Egli forzò l'accerchiamento e spinse le sue truppe in avanti tra le linee nemiche per una distanza di 400 km per ricongiungersi con l'Armata Rossa a Žytomyr. Come altri comandanti bolscevichi che non avevano esperienza di accademia militare, egli venne assistito nell'operazione da ex ufficiali zaristi del suo staff, ma questo non nega il suo ruolo nel pianificare e mettere in atto l'impresa. Per questa operazione, Jakir fu decorato per la seconda volta con l'Ordine della Bandiera rossa. Jakir prese parte in azioni contro le forze dei bianchi di Nikolaj Nikolaevič Judenič in difesa di Pietrogrado, nella soppressione della guerriglia anarchica ucraina di Nestor Machno, e nella Guerra sovietico-polacca. Nel 1930 ricevette per la terza volta l'Ordine della Bandiera rossa, diventando uno dei comandanti più decorati dell'Armata Rossa.