门第，自幼好学，为避战迁居永州。曾就读于长沙城南书院，受名儒郭嵩焘教诲。同治九年（1870年），张百熙考中举人。同治十三年（1874年）中式甲戌科二甲第六名进士，选翰林院庶吉士。光绪二年（1876年）散馆，授翰林院编修。光绪五年（1879年），任山东乡试副考官。光绪七年（1881年），提督山东学政。光绪十四年（1888年），任四川乡试正考官。次年入直南书房。光绪二十一年（1895年），升侍讲，次年升侍读，并出任国子监祭酒。
疏劾权宦.朝鲜东学党起义爆发后，日本介入，朝议大多主战