有大志，师事吴兢，吴兢很器重他。后游京师，好饮酒，以鼓琴自娱。天宝末年，官至左拾遗，“居身廉洁，不殖私产”。安史之乱爆发，追随从唐玄宗入蜀。唐肃宗登基后，玄宗派遣张镐至肃宗行在所在。张镐至凤翔府，因奏识多有弘益，拜谏议大夫。至德二年（757年），五月任中书侍郎、同中书门下平章事。肃宗派遣僧人数百人在道场，晨夜诵佛，张镐谏曰：“帝王当修德以弭乱安人，未闻饭僧可致太平也！”。八月取代拥兵不进的贺兰进明，任河南节度使。十月张镐得知睢阳围急，以急行军前往救援，又命令谯郡太守闾丘晓前去救援。待张镐军至，睢阳城已陷三日