十一岁时，给事宋真宗藩邸；真宗即位，授西头供奉官。张耆曾在宋真宗仍是太子时帮其收留其宠妾刘氏，遂官运亨通。宋真宗后期，张耆任马军都帅，既无战功、又无谋略，下令太过严苛，几乎引起兵变；宰相王旦乃进耆为枢密副使。宋仁宗即位，刘氏再将张耆提拔至枢密使。咸平年间，张耆为天雄军兵马钤辖。张耆极吝啬，在家中设店肆，本家所需百货都要从中购买。天禧二年（1018年），张耆为武信军节度使、同平章事，出判陈州。天圣三年（1025年），张耆拜枢密使。宋朝重文轻武，晏殊等人反对张耆出任枢密使，宰相王曾更轻蔑称张耆为“一赤脚