Vogt var i tillegg konstituert som sjef for en rekke departementer i kortere perioder. Vogt gikk av som «statsminister» i desember 1858 etter å ha kritisert kronprins Karls vurderinger i noen militære utnevnelser.