初任入内黄门，转任殿头、承制、西头供奉官。监管在京榷货务。领内东门司，为修奉章献皇后、章懿皇后二陵承受。内侍领内东门，再任勾当御药院、高阳关路走马承受公事。康定年间，担任赵元昊官告使，还朝说明元昊骄僭，一定反叛，请朝廷做好边关守备。元昊攻打延州，退兵后，夏竦、韩琦计划从鄜延路深入，乘虚攻打夏军，张惟吉认为当持重伺变。领皇城司，转任内侍省押班、群牧都监，精简陕西冗兵。为入内都知。庆历八年（1048年）澶州商胡等地黄河决口时，张惟吉为澶州修河都钤辖。转运使施昌言请立即堵塞，张惟吉以为民困财乏，治河工程应稍待。转