I 1918 var han blant grunnleggerne av det ukrainske kommunistpartiet som en del av det all-russiske, senere sovjetiske, kommunistpartiet, og deltok i oppbyggingen av Den Røde Hær i Ukraina. I 1922 ble han stedfortredende leder for det sovjetiske finansdepartementet. Sammen med Nikolaj Bukharin ble Pjatakov i Lenins testamente omtalt som partiets unge håp.