Waldemar war ein Sohn von Albrecht Graf von Roon. Nach dem Besuch der Gymnasien in Berlin und Bonn absolvierte er die Kadettenanstalten in Wahlstatt und Berlin. Anschließend trat Roon am 1. Mai 1855 als Sekondeleutnant in das 1. Garde-Regiment zu Fuß ein. Von 1859 bis 1862 besuchte er die Kriegsakademie in Berlin. Mitte Dezember 1863 kommandierte man ihn als Generalstabsoffizier zum Oberkommando der verbündeten Armee in Schleswig. Roon nahm während des Krieges gegen Dänemark an den Gefechten bei Fredericia und Rackebüll teil, wurde beim Sturm auf die Düppeler Schanzen leicht verwundet und machte den Übergang nach Alsen mit. Für sein Wirken wurde er am 22. April 1864 mit dem Roten Adlerorden IV. Klasse mit Schwertern ausgezeichnet. Mit der Beförderung zum Hauptmann erfolgte am 16. August 1864 seine Versetzung in den Großen Generalstab. 1866 war Roon anlässlich des Krieges gegen Österreich beim Generalstab des II. Armee-Korps. In dieser Stellung nahm er an den Schlachten bei Gitschin und Königgrätz teil. Nach kurzzeitigen Truppendienst wurde Roon 1869 Major im Großen Generalstab und im April 1870 zur Dienstleistung beim Generalstab des Gardekorps kommandiert. Mit Beginn des Krieges gegen Frankreich versetzte man ihn in den Generalstab des Gardekorps. Roon nahm an den Kämpfen bei Gravelotte, Beaumont, Sedan und Le Bourget sowie der Belagerung von Paris teil und erhielt beide Klassen des Eisernen Kreuzes.