Mit seiner Beförderung zum Major am 31. Mai 1847 wurde Holleben zum Adjutanten der Generalinspektion des Militär-Unterrichts- und Bildungswesens ernannt, ging aber weiterhin seiner Lehrtätigkeit am Kadettenhaus in Berlin nach. Nach der Deutschen Revolution saß er im Volkshaus des Erfurter Unionsparlaments und wirkte dann als Abgeordneter des Wahlkreises Aschersleben in der Zweiten Kammer des Preußischen Landtages. Zunächst noch als Oberstleutnant trat Holleben am 18. September 1856 mit dem Rang und den Gebührnissen eines Regimentskommandeurs als Direktor an die Spitze der Obermilitär-Examinationskommission. Gleichzeitig wurde er auch Mitglied der Militär-Studienkommissionen und avancierte am 15. Oktober 1856 zunächst zum Oberst und am 31. Mai 1859 zum Generalmajor. 1864 erhielt er das Patent als Generalleutnant und wurde Präses der Obermilitär-Examinationskommission. Diese Stellung sollte er bis zu seiner Verabschiedung beibehalten.