Bülow trat am 21. Dezember 1864 als Fahnenjunker in das 2. Garde-Regiment zu Fuß der Preußischen Armee ein. Er nahm 1866 im Krieg gegen Österreich an den Kämpfen bei Soor, Königinhof und Königgrätz teil. Im Deutsch-Französischen Krieg 1870/71 war er als Hauptmann Mitglied des Generalstabes. Spätestens ab 1872 und mindestens bis 1881 war er Militärattaché an der deutschen Botschaft in Paris. Am 17. Juni 1893 wurde er zum Oberst befördert und übernahm vom 27. Januar 1894 bis 5. Februar 1897 als Kommandeur das 4. Garde-Regiment zu Fuß. Bülow wurde anschließend in das Preußische Kriegsministerium versetzt und fungierte hier nach seiner Beförderung zum Generalmajor am 22. März 1897 als Direktor des Zentral-Departements. Als Generalleutnant (seit 22. Mai 1900) erhielt er am 18. April 1901 das Kommando über die 2. Garde-Division. Ein Jahr später folgte die Versetzung als Generalquartiermeister in den Großen Generalstab. Man beauftragte Bülow dann am 27. Januar 1903 mit der Führung des III. Armee-Korps und ernannte ihn am 18. April 1903 zum Kommandierenden General. Als solcher wurde er am 15. September 1904 General der Infanterie. Dieses Kommando sollte Bülow bis zu seiner Ernennung zum General-Inspekteur der III. Armee-Inspektion am 1. Oktober 1912 innehaben. Kurz darauf wurde er am 1. Oktober 1912 Generaloberst.