进入中华人民共和国铁道部大桥工程局工作。1964年，张辛泰被派到四川汉阳任大渡河桥工程设计组组长。两年后，作为桥梁专家被派往越南，帮助北越抢修桥梁，获得抗美援越勋章。1966年回国，文化大革命期间受到迫害。1970年7月至1972年底，派往坦桑尼亚参加坦赞铁路工程，并担任工作组技术员。1971年被评为坦赞铁路优秀援外战士。1972年11月至1977年5月，任铁道部大桥工程局桥梁研究所副主任。1977年5月至1982年12月，任铁道部大桥工程局武汉大桥局副局长。1983年2月，升任铁道部副部长；同年9月，当选