立委候选人林联辉竞选总干事一职，并为其辅选当选立法委员。1981年林文雄一度登记国民党内台南市长提名，然而最后国民党因礼让苏南成而在该届未提名。林文雄继续参选省议员并获得连任。
台南市长.1985年林文雄获国民党提名参选台南市长选举，最后以130,294票击败曾任苏南成机要秘书的陈森茂，当选台南市长。林文雄任内完成台南市立医院的建设，并还清苏南成市长时代的大量负债。然而任内先是婚外情遭陈森茂揭露，林文雄与黄姓女子「夜谈」的录音带被陈森茂公布，一时成为全市关注焦点。1988年