Tyulenvev gia nhập Hồng quân Liên Xô sau cuộc cách mạng và gia nhập Đảng Bolshevik năm 1918. Với tư cách quân nhân của chính quyền mới, ông đã tham gia Nội chiến Nga khi phục vụ tại Tập đoàn quân kỵ binh 1, tham gia đàn áp cuộc nổi loạn Kronstadt và Chiến tranh Liên Xô - Ba Lan. Năm 1939, ông chỉ huy Tập đoàn quân 12 trong cuộc xâm chiếm Ba Lan của Liên Xô. Ông được thăng cấp Đại tướng năm 1940.