Soedirman
menentang program rasionalisasi. Soedirman secara resmi dikembalikan ke posisinya pada tanggal 1 Juni 1948. Untuk menyelesaikan penataan organisasi ini, Soedirman membentuk sebuah panitia yang anggotanya ditunjuk oleh Panglima sendiri. Anggota panitia terdiri dari Djenderal Major Soesalit Djojoadhiningrat (mantan PETA dan laskar), Djenderal Major Suwardi (mantan KNIL) dan Djenderal Major
A.H. Nasution dari perwira muda. Penataan organisasi TNI selesai pada akhir tahun 1948, setelah Panglima Tentara dan Teritorium Sumatera, Kolonel Hidajat Martaatmadja, menyelesaikan penataan organisasi tentara di Pulau Sumatera.
Setelah program rasionalisasi mereda, Sjarifuddin mulai mengumpulkan tentara dari Partai Sosialis, Partai Komunis, dan anggota Sentral Organisasi Buruh Seluruh Indonesia untuk mengobarkan revolusi proletar di Madiun, Jawa Timur, yang berlangsung pada tanggal 18 September 1948. Soedirman, yang saat itu sedang sakit, mengirim Nasution untuk memadamkan revolusi; Soedirman juga mengirim dua perwira lainnya sebagai antena
perdamaian sebelum serangan. Meskipun pemimpin revolusi, Muso, telah sepakat untuk berdamai, Nasution dan pasukannya berhasil menumpas pemberontakan pada 30 September. Soedirman mengunjungi Madiun tidak lama setelah pertempuran; ia mengatakan kepada istrinya bahwa ia tidak bisa tidur di sana karena pertumpahan darah yang terjadi.
Pemberontakan di Madiun, dan ketidakstabilan politik yang sedang berlangsung, melemahkan kondisi kesehatan Soedirman. Pada tanggal 5 Oktober 1948, setelah perayaan hari jadi TNI ketiga, Soedirman pingsan. Setelah diperiksa oleh berbagai dokter, ia didiagnosis mengidap tuberkulosis (TBC). Pada akhir bulan, ia dibawa ke Rumah Sakit Umum Panti Rapih dan menjalani pengempesan
paru-paru, dengan harapan bahwa tindakan ini akan menghentikan penyebaran penyakit tersebut. Selama di rumah sakit, ia melimpahkan sebagian tugas kepada Nasution. Mereka berdua terus mendiskusikan rencana untuk berperang melawan Belanda, dan Soedirman secara rutin menerima laporan. Mereka sepakat bahwa perang gerilya, yang telah diterapkan di wilayah taklukan Belanda sejak bulan
Mei, adalah perang yang paling cocok bagi kepentingan mereka; untuk mewujudkan hal ini, Soedirman mengeluarkan perintah umum pada 11 November, dan persiapannya ditangani oleh Nasution. Soedirman dipulangkan dari rumah sakit pada tanggal 28 November 1948.
Meskipun ia terus mengeluarkan perintah, Soedirman baru kembali aktif bertugas pada tanggal 17 Desember. Seiring dengan semakin meningkatnya ketegangan antara tentara Indonesia dan Belanda, ia memerintahkan TNI untuk meningkatkan kewaspadaan; ia juga memerintahkan latihan militer skala besar dalam upayanyayang gagaluntuk meyakinkan Belanda bahwa TNI terlalu kuat untuk diserang. Dua hari
kemudian, diumumkan bahwa mereka tak lagi terikat dengan Perjanjian Renville. Pada 19 Desember, Belanda melancarkan Agresi Militer Kedua untuk merebut ibu kota Yogyakarta. Pukul 07.00 Waktu Indonesia Barat, lapangan udara di Maguwo berhasil diambil alih oleh pasukan Belanda di bawah pimpinan Kapten Eekhout. Soedirman, yang telah menyadari serangan itu, memerintahkan stasiun RRI untuk menyiarkan pernyataan bahwa para tentara harus melawan karena mereka telah dilatih- sebagai gerilyawan.
Soedirman kemudian mengunjungi Istana Presiden di Yogyakarta, tempat para pemimpin pemerintahan sedang mendiskusikan ultimatum yang menyatakan bahwa kota itu akan diserbu kecuali para pemimpin menerima kekuasaan kolonial. Soedirman mendesak presiden dan wakil presiden agar meninggalkan kota dan berperang sebagai gerilyawan, namun sarannya ini ditolak. Meskipun dokter melarangnya, Soedirman mendapat
izin dari Soekarno untuk bergabung dengan anak buahnya. Pemerintah pusat dievakuasi ke Kraton Ngayogyakarta Hadiningrat atas desakan Sultan Hamengkubuwono IX, namun mereka tertangkap dan diasingkan.
Sebelum memulai gerilya, Soedirman pertama-tama pergi ke rumah dinasnya dan mengumpulkan dokumen-dokumen penting, lalu membakarnya untuk mencegahnya jatuh ke tangan Belanda. Soedirman, bersama sekelompok kecil tentara dan dokter pribadinya, mulai bergerak ke arah selatan menuju Kretek, Parangtritis, Bantul. Setibanya di sana, mereka disambut oleh bupati pada pukul 18.00. Selama di
Kretek, Soedirman mengutus tentaranya yang menyamar ke kota yang telah diduduki oleh Belanda untuk melakukan pengintaian, dan meminta istrinya menjual perhiasannya untuk membantu mendanai gerakan gerilya. Setelah beberapa hari di Kretek, ia dan kelompoknya melakukan perjalanan ke timur di sepanjang pantai selatan menuju Wonogiri. Sebelum Belanda menyerang, sudah diputuskan
bahwa Soedirman akan mengontrol para gerilyawan dari Jawa Timur, yang masih memiliki beberapa pangkalan militer. Sementara itu, Alfiah dan anak-anaknya diperintahkan untuk tinggal di Kraton. Sadar bahwa Belanda sedang memburu mereka, pada tanggal 23 Desember Soedirman memerintahkan pasukannya untuk melanjutkan perjalanan ke Ponorogo. Di sana, mereka berhenti di rumah seorang ulama bernama Mahfuz; Mahfuz
memberi sang jenderal sebuah tongkat untuk membantunya berjalan, meskipun Soedirman terus dibopong dengan menggunakan tandu di sepanjang perjalanan. Mereka kemudian melanjutkan perjalanan ke timur.
Di dekat Trenggalek, Soedirman dan kelompoknya dihentikan oleh prajurit TNI dari Batalion 102. Para tentara ini diberitahu bahwa Soedirman-yang saat itu berpakaian sipil dan dan tidak dikenali oleh tentara yang menghentikan mereka- adalah tahanan dan menolak untuk melepaskan Soedirman dan kelompoknya; mereka mencurigai konvoi Soedirman yang membawa peta dan catatan militer Indonesia, benda
yang mungkin dimiliki oleh mata-mata. Ketika sang komandan, Mayor Zainal Fanani, datang untuk memeriksa keadaan, ia menyadari bahwa orang itu adalah Soedirman dan segera meminta maaf. Fanani beralasan bahwa tindakan anak buahnya sudah tepat karena menjaga wilayah dengan saksama. Ia juga menyebutkan tentang sebuah pos di Kediri dan menyediakan mobil untuk mengangkut
Soedirman dan pasukannya. Setelah beberapa saat di Kediri, mereka melanjutkan perjalanan lebih jauh ke timur; setelah mereka meninggalkan kota pada tanggal 24 Desember, Belanda berencana untuk menyerang Kediri.
Serangan Belanda yang berkelanjutan menyebabkan Soedirman harus mengganti pakaiannya dan memberikan pakaian lamanya pada salah seorang prajuritnya, Letnan Heru Kesser-yang memiliki kemiripan dengan Soedirman. Kesser diperintahkan untuk menuju selatan bersama sekompi besar tentara, mengganti pakaiannya, dan diam-diam kembali ke utara, sedangkan Soedirman menunggu di Karangnongko. Pengalihan
ini berhasil, dan pada 27 Desember, Soedirman dan anak buahnya bergerak menuju Desa Jambu dan tiba pada 9 Januari 1949. Di sana, Soedirman bertemu dengan beberapa menteri yang tidak berada di Yogyakarta saat penyerangan: Supeno, Susanto Tirtoprojo, dan Susilowati. Bersama para politisi ini, Soedirman berjalan ke Banyutuwo sambil memerintahkan beberapa tentaranya untuk menahan pasukan Belanda.
Di Banyutuwo, mereka menetap selama seminggu lebih. Namun, pada 21 Januari, tentara Belanda mendekati desa. Soedirman dan rombongannya terpaksa meninggalkan Banyutuwo, berjuang menembus jalan dalam hujan lebat.
Soedirman dan pasukannya terus melakukan perjalanan melewati hutan dan rimba, akhirnya tiba di Sobo, di dekat Gunung Lawu, pada tanggal 18 Februari. Selama perjalanannya ini, Soedirman menggunakan sebuah radio untuk memberi perintah pada pasukan TNI setempat jika ia yakin bahwa daerah itu aman. Merasa lemah karena kesulitan fisik yang ia hadapi, termasuk perjuangannya melewati hutan