Oerip Soemohardjo
peserta pertemuan tidak mengizinkan; Oerip sendiri merasa senang karena tidak lagi bertanggung jawab atas angkatan perang. Soedirman tetap mempertahankan Oerip dan mengangkatnya sebagai kepala staff dengan pangkat letnan jenderal. Sebelum pemerintah melantik Soedirman sebagai panglima besar, Oerip secara "de jure" tetap menjadi pemimpin, namun wartawan Salim Said menulis
bahwa perintah Oerip sulit dipahami karena kemampuan berbahasa Indonesia-nya yang buruk, dan perintahnya seringkali ditolak kecuali jika telah disetujui oleh Soedirman.
Setelah Soedirman dikukuhkan sebagai panglima besar TKR pada 18 Desember, ia mulai berupaya untuk mengonsolidasikan dan mempersatukan angkatan perang, sedangkan Oerip bertugas menangani masalah-masalah teknis dan organisasi. Banyak rincian-rincian, seperti pemberlakuan seragam tentara, ia limpahkan penanganannya kepada komandan daerah. Namun, untuk menangani masalah-masalah penting, ia
mengeluarkan perintah yang berlaku secara nasional, misalnya perintah untuk membentuk polisi militer dan mencegah pasukan penerjun payung musuh mendarat.
Bersama-sama, Soedirman dan Oerip berhasil mengatasi ketidaksepahaman antara mantan tentara PETA dan KNIL. Sementara itu, pemerintah mengganti nama angkatan perang sebanyak dua kali pada bulan Januari 1946, yang pertama adalah Tentara Keselamatan Rakyat, kemudian diubah lagi menjadi Tentara Republik Indonesia (TRI). Pada 23 Februari 1946, Oerip ditunjuk untuk mengepalai Panitia Besar Reorganisasi
Tentara, yang dibentuk melalui keputusan presiden. Setelah berunding selama empat bulan, pada 17 Mei panitia menyerahkan rekomendasi kepada Presiden Soekarno. Oerip ditugaskan untuk menangani proses perampingan angkatan perang, sedangkan Menteri Pertahanan diberi kekuasaan birokrasi yang lebih besar. Soedirman tetap dipertahankan sebagai panglima angkatan perang.
Setelah Menteri Pertahanan Amir Sjarifuddin mulai membentuk kelompok-kelompok pro- dalam tubuh militer, Oerip mulai curiga dan mengecam upaya pemerintah yang memanfaatkan militer untuk kepentingan politik. Meskipun demikian, ia dan Soedirman terus berupaya untuk memastikan bahwa pasukan paramiliter (laskar), yang muncul dari kalangan masyarakat umum, adalah bagian dari militer. Upaya
ini akhirnya membuahkan hasil pada tanggal 3 Juni 1947, ketika pemerintah mengumumkan untuk mempersatukan laskar dan TRI menjadi organisasi militer baru bernama Tentara Nasional Indonesia (TNI). Sementara itu, Oerip mendirikan sebuah akademi militer di Yogyakarta.
Untuk memenuhi ancaman Belanda, Oerip berniat untuk menyerang Belanda di saat mereka masih menyusun kekuatan, namun rencana ini digagalkan oleh upaya pemerintah dalam diplomasi. Oerip sendiri lebih menyukai taktik gerilya ketimbang konflik militer resmi, ia pernah bercerita kepada bawahannya bahwa serangan terbaik bisa dilakukan dengan seratus penembak jitu yang
bersembunyi di belakang garis musuh. Oerip dengan lantang menentang hasil Perjanjian Renville; perjanjian tersebut menyebabkan ditariknya 35000 tentara Indonesia dari Jawa Barat dan diresmikannya Garis Van Mook, yang memisahkan wilayah kekuasaan Belanda dan Indonesia. Ia memandang perjanjian tersebut, yang disahkan pada 17 Januari 1948, sebagai taktik mengulur-gulur yang memberi Belanda kesempatan untuk memperkuat pasukannya.
Sementara itu, Amir Sjarifuddin- yang saat itu menjabat sebagai perdana menteri- mulai merekrut tentara yang berhaluan. Muak dengan sikap pemerintah yang menurutnya kurang percaya pada militer, Oerip mengajukan pengunduran dirinya, namun tetap bertugas sebagai penasihat Menteri Pertahanan sekaligus Wakil Presiden, Muhammad Hatta. Setelah beberapa bulan berada dalam kondisi lemah dan menjalani
perawatan dari Dr. Sim Ki Ay, pada malam 17 November 1948 Oerip ambruk dan wafat di kamarnya di Yogyakarta akibat serangan jantung. Setelah disemayamkan selama semalam, ia dikebumikan keesokan harinya di Taman Makam Pahlawan Semaki dan secara anumerta dipromosikan sebagai jenderal. Saat Soedirman mengancam akan mengundurkan diri pada tahun 1949, ia menyalahkan ketidak-konsistenan pemerintah selama
revolusi-lah yang menyebabkan kematian Oerip, dan juga penyebab penyakit TBC yang diidapnya. Oerip meninggalkan seorang istri dan putri angkat bernama Abby. Abby meninggal dunia karena malaria pada Januari 1951, dan Rohmah wafat pada tanggal 29 Oktober di Semarang; ia dimakamkan di Ungaran.
Oerip menerima sejumlah tanda kehormatan dari pemerintah secara anumerta, termasuk Bintang Sakti (1959), Bintang Mahaputra (1960), Bintang Republik Indonesia Adipurna (1967), dan Bintang Kartika Eka Pakçi Utama (1968). Pada tanggal 10 Desember 1964, Oerip ditetapkan sebagai Pahlawan Nasional Indonesia melalui Keputusan Presiden No. 314 Tahun 1964. Soedirman juga dinyatakan sebagai pahlawan nasional oleh keputusan yang sama.
Pada tanggal 22 Februari 1964, akademi militer Indonesia di Magelang mendedikasikan sebuah tugu untuk dirinya, dan menggambarkan Oerip sebagai "seorang putra Indonesia yang mengagungkan karya daripada kata, yang mengutamakan Dharma daripada minta." Gereja Katolik di akademi tersebut juga mempersembahkan sebuah dedikasi untuk Oerip sejak tahun 1965, yang berawal dari perbincangan antara Rohmah dan teman
misionarisnya. Beberapa jalan juga dinamakan untuk menghormati Oerip, termasuk di kampung halamannya Purworejo, di Yogyakarta, dan di ibu kota Jakarta.