Nach Ende des Bürgerkrieges war Sacharow in Stabsfunktionen tätig, bis er 1925 zum Generalstabskurs an die Militärakademie „M.W. Frunse“ abkommandiert wurde. Dort lernte er Rodion Malinowski kennen und kehrte nach drei Jahren mit einer ausgezeichneten Beurteilung wieder zur Truppe zurück. Zunächst diente er im Stab des weißrussischen Militärbezirkes unter Jegorow und Uborewitsch. Nach einer kurzen Kommandoführung bei einem Schützenregiment der 8. Schützendivision wurde er erneut an die Frunse-Akademie berufen, um am ersten Kurs der neuen Militärakademie des Generalstabes der Streitkräfte der UdSSR „K.J. Woroschilow“ teilzunehmen, eine Institution, die sich als wertvolles Gegengewicht zu den nicht mehr zeitgemäßen Vorstellungen eines Budjonny und Woroschilow, denen Stalin fachlich vertraute, entwickelte. Von 1937 bis Kriegsbeginn diente Sacharow in mehreren Stäben, wobei die wertvollste Verwendung jene im Generalstab unter Schaposchnikow war. Nach dem Beginn des Krieges gegen Deutschland wurde Sacharow am 10. Juli 1941 zum Stabschef der Nordwestfront ernannt, kam im August wieder in den Generalstab zurück, konnte jedoch auf eigenen Wunsch bald zur Truppe zurückkehren. Bei verschiedenen Fronten zunächst in der Versorgungsführung eingesetzt, arbeitete er 1945 unter Malinowski als Stabschef und führte mit diesem auch den Feldzug gegen Japan unter der Gesamtführung von Wassilewski.