Oemar memulai karier militernya saat ia bergabung dengan Pembela Tanah Air (PETA) pada masa pendudukan Jepang. Oemar ditempatkan sebagai "shodanco" (komandan batalion) PETA di Salatiga setelah menyelesaikan pendidikan militer yang diadakan oleh tentara Jepang. Setelah Jepang menyerah dan kemerdekaan Indonesia diproklamirkan, PETA dibubarkan dan Oemar masuk ke dalam Tentara Keamanan Rakyat (TKR) yang baru saja dibentuk. Oemar memimpin berbagai satuan militer di dalam TKR, mulai dari peleton hingga kompi. Setelah Revolusi Nasional Indonesia usai, Oemar dipercayakan untuk mengomandoi sebuah batalyon di dalam Tentara Nasional Indonesia.