贤在担任嘉义市长的任内过世，张博雅以无党籍参与嘉义市长补选，并且当选，之后于1985年获得连任。1986年，民主进步党成立后，张博雅虽然没有加入民进党，但在立场上与民进党较为接近。张博雅于嘉义市兴建二二八事件纪念碑，突破当时国民党政府的历史禁忌；1989年张博雅当选末代增额立法委员，并且与民进党张俊雄搭档参选立法院正副院长，挑战属于资深民意代表的国民党代理院长梁肃戎与增额立法委员刘松藩。但张博雅以161票对29票落败。1990年，前陆军总司令、国防部参谋总长郝柏村上将担任行政院院长时，延揽张博雅出任