和同时人的记叙中可略窥概梗。生于世代仕官之家。祖父张肩孟，皇祐五年（公元1053年）进士，生有五子。伯父张励，熙宁六年（公元1073年）进士；张劝，元符三年（公元1100年）进士。幼子张动（又名张安道、张几道）即张元干父亲，进士出身，于宋徽宗祟宁年间，任邺县（今河北临漳市）知县。张元干早岁丧母，为父亲所照顾。徽宗政和初年，随父入汴京为太学上舍生，《宣政名贤题跋》中有何栗词，称张元干为「予太学同舍郎」，由此可见张元干曾为太学生，然未闻举进士。年少时，即有大志及志于学。《陇头泉》云：「少年时，壮怀谁与重论⋯