住在西区，国小时曾就读石门国小、永福国小毕业。中学时就读台南一中初、高中部，毕业后入台湾大学社会系。大学毕业后，林文雄曾入其家族企业敬华钢铁公司担任总经理。并曾任救国团台南市中、西、安平区常委以及台南市团管区西区辅导中心主任。1973年林文雄在台南市东区参选台南市第八届市议员选举，以3,455票当选市议员，为全市第二高票（第一高票为苏南成）。林文雄在市议员任内即积极佈署省议员，1977年，林文雄获国民党提名参选台湾省省议员，最后当选。1980年林文雄出任立委候选人林联辉竞选总干事一职，并为其辅选当选