Prinz Gustav begann seine militärische Laufbahn im Dienst für die Niederlande, ehe er 1809 zur österreichischen Armee wechselte. Während der Koalitions- und Befreiungskriege machte er dort Karriere und wurde am 30. April 1815 zum Generalmajor befördert. In Folge des Laibacher Kongresses intervenierte die österreichische Armee im Königreich beider Sizilien zur Niederschlagung des Putsches in Neapel. An dieser Intervention war auch Prinz Gustav beteiligt. In der nachfolgenden Zeit war er Divisionskommandant in Padua, Graz und Prag. Seit 1826 war er Inhaber des Infanterie-Regiments Nr. 17. Er war Mitglied im Hofkriegsrat und k. k. österreichischer Geheimer Rat. Am 21. Dezember 1830 wurde er Feldmarschallleutnant und war seit dem 23. Dezember 1845 im militärischen Rang eines Feldzeugmeisters. Nach seiner Pensionierung am 16. Mai 1848 lebte er in Brünn und starb kurz nach dem Ausbruch des Kriegs von 1866, so dass er die Niederlage in der Schlacht bei Königgrätz, in der auch sein Sohn tödlich verwundet wurde, nicht mehr erlebte.