九年（1903年）六月，补授河南道监察御史。迁工科给事中。三十年（1904年）八月，升授甘肃宁夏府知府，赴兰州。三十二年（1906年），丁内艰离任归乡。三十四年（1908年）七月服阙，补授直隶宣化府知府。宣统元年（1909年），改调直隶大名府知府。个性节俭，喜好读书，不携带家眷赴任，不聘用门卫、家丁，只有一个老仆供其差使，官署也不置车马，只养一驴备用。致力革除积弊，提倡文教风俗，推行农工生产；闲暇时则前往中学、师范学校讲授经史；大名府盐商有惯例将每月供盐折现餽送给知府，高熙喆难以变革旧例，饬