高级中学（今台中市立台中第二高级中等学校）毕业后，张宪义于1963年进入陆军理工学院（今国防大学理工学院）物理学系就读，期间因理工学院与清华大学合作，曾在清华大学接受训练。1967年取得理学士学位，派任至中科院筹备处任职。当时为了对付已拥有核武的中国共产党，在已故前中华民国总统蒋介石指示下，以研发核能发电为掩护，中科院秘密进行核武的研发，至总统蒋经国及国防部参谋总长郝柏村上将时代持续进展。张宪义1967年起参与核武研发。于1969年，被选派到美国的田纳西大学攻读核子工程，取得硕士及博士学位。学成回到台湾