Els seus pares van morir quan era un nen, i va ser criat per un oncle, que era coronel. Després d'unir-se a l'Acadèmia Militar Sèrbia entre 1908 i 1910, va participar com a cadet en les Guerres Balcàniques. A l'acabar la guerra, va esdevenir alferes (1913), en ser el primer en la seva classe, i va rebre la medalla Obihch, per valor personal. Durant la Primera Guerra Mundial, Mihajlović va continuar lluitant en l'Exèrcit Serbi, i el 1915 va haver de retirar-se a Albània juntament amb el gruix de les forces del seu país. Després va continuar lluitant en el front de Salónica, rebent nombroses condecoracions després de la guerra, incloent-hi l'Ordre de l'Àguila Blanca. Durant el període d'entreguerres va arribar el rang de Coronel i va servir com Oficial Militar adjunt a Sofia (1934) i Praga (1936). Sent un fervent nacionalista, Mihajlović va proposar la divisió de les forces armades iugoslaves d'acord amb les nacionalitats internes del Regne de Iugoslàvia (eslovens, croats i serbis), al·legant que la composició de les unitats iugoslaves permetia l'aparició d'una "cinquena columna". Aquest suggeriment li va significar una sentència de 30 dies de presó per deslleialtat, i la seva carrera es va estancar. Un dels que el va acusar de deslleialtat va ser el Ministre de Guerra Milan Nedić, qui després va col·laborar amb els nazis presidint la "Sèrbia de Nedić".