Mihailović wurde 1893 als Sohn von Mihailo und Smiljana, geborene Petrović, in der Nähe der Stadt Čačak im Königreich Serbien geboren. Von der serbischen Militärakademie zog er in die Balkankriege von 1912 und 1913. Im Ersten Weltkrieg war Mihailović in Albanien und an der Salonikifront stationiert. Seine Ausbildung an der Militärakademie schloss er nach dem Krieg ab und wurde verschiedenen Stäben zugeteilt. Zwischen 1935 und 1937 diente er als Militärattaché in Sofia und Prag. Danach war er in einigen Stabsstellen tätig und unterrichtete u. a. an der Militärakademie das Fach „Infanterietaktik“. Ab 1939 verlagerte sich sein Interesse von der Infanterie zum Guerillakrieg, der in den ehemals vom Osmanischen Reich besetzten Gebieten Jugoslawiens (Serbien, Montenegro, Mazedonien, Herzegowina, Bosnien) Tradition hatte und von Tschetniks und Komitadschi geführt worden war. Für den damaligen jugoslawischen Kriegsminister Milan Nedić arbeitete Mihailović einen Bericht zur Reorganisation des jugoslawischen Heeres aus. Darin sprach sich Mihailović für ein Prinzip von national homogenen militärischen Einheiten aus. Außerdem schlug er als Verteidigungskonzept vor, das nur schwer zu verteidigende nördliche Flachland Jugoslawiens aufzugeben und die Verteidigung auf die gebirgigen Landesteile zu konzentrieren. Mihailovićs Vorschlag wurde von Nedić abgelehnt, aber Mihailović blieb als Chef der Operationsabteilung im Generalstab für Fragen der Guerillakriegführung zuständig. 1940 wurde Mihailović vom britischen Geheimdienst in Belgrad als Informant über die Haltung der jugoslawischen Armee bei einem möglichen Putsch gegen den jugoslawischen König kontaktiert. Am vom Militär durchgeführten jugoslawischen Staatsstreich 1941 war Mihailović jedoch nicht beteiligt.