Colban startet sin yrkeskarriere som edsvoren fullmektig i Romsdal, der han arbeidet 1899 til 1900. I 1900 ble han overrettssakfører. Fra 1903 til 1905 arbeidet Colban i utenriksavdelingen i Handelsdepartementet, før han i 1905 begynte i Utenriksdepartementet. Den første posteringen utenlands kom i 1905, da Colban først ble attaché i Paris og året etter ble konstituert visekonsul i Le Havre. I 1907 vendte Colban hjem til Norge for å bli byråsjef i Utenriksdepartementet. Han var fra 1908 til 1911 legasjonssekretær i Stockholm. Deretter var han generalkonsul i Rio de Janeiro i årene 1911 til 1916. Fra 1916 til 1918 arbeidet Colban som handelspolitisk agent i Oslo og London.