0年，张俊雄自台大法律系毕业，且以第一名的好成绩，通过律师高考。退伍之后，张俊雄选择高雄，作为他律师生涯的开端。
经历.1962年开始于高雄市执业，之后前往平民律师服务中心担任志愿律师，同时担任台湾教会公报理事长。1979年美丽岛事件时，张俊雄出面为高俊明牧师辩护，也因此步入政坛。1983年高票当选增额立法委员；1986年、1989年、1992年、1995年、1998年都顺利连任，而成为资深立法委员。1986年党外人士组成民主进步党时，张俊雄也是组党的「建党十人小组」之一。