后汉干祐元年（949年）三月，张令铎从枢密使郭威率军讨伐河中（今山西永济西）节度使白守贞，以功升为奉国军指挥使。郭威建立后周，广顺初年，改任控鹤指挥使，因为与河中府的张铎同名，赐名令铎，后升至控鹤左厢都指挥使。后周世宗显德三年（956年），张令铎从攻南唐，改任虎捷左厢都指挥使；显德四年（957年），世宗再征淮南，张令铎与龙捷右厢都指挥使柴贵任京城左、右厢巡检，负责京城开封府治安。显德六年（959年），世宗亲征辽国，张令铎随陆路都部署韩通先到沧州，世宗因病撤军，将占领的益津关改为霸州（今河北霸州市），命韩