宋朝的过程中，张令铎有翊戴之功，自武信节度使、步军都指挥使为镇安节度使、马步军都虞候。建隆二年（961年）七月，宋太祖杯酒释兵权，罢去张令铎侍卫亲军马步军都虞候军职，出为镇宁军节度使。宋太祖与张令铎约为亲家，命皇弟赵廷美聘张令铎第三女，后封楚国夫人。开宝二年（969年）入朝，因病留京，次年春去世，终年60岁。　　张令铎为人勇勐，但不杀降卒，也不屠城，曾说：「我从军三十年，大小四十余战，多摧坚陷敌，未尝妄杀一人。」他死的时候，百姓多为他哀悼。