Collett overtok i 1859 som stiftsamtmann i Akershus, et embete han beholdt til sin død i 1895. Han var konstituert som statsråd og sjef for Revisjonsdepartementet under regjeringskrisa i 1884 (fra 26. mars til 3. april).