7年二二八事件爆发，许世贤与女儿张博雅前往阳明山避难，之后回到嘉义。1954年许世贤当选临时省议员、之后当选台湾省议员长达十五年。许世贤起初以中国国民党籍身份当选，惟当选后不久就因不愿受党团控制而主动退党。许世贤也因犀利、强烈批判的问政风格，与李万居、郭国基、郭雨新、吴三连、李源栈省议员有省议会「五龙一凤」之美名。许世贤长期居于党外阵营，曾经于1960年参与雷震的中国民主党创党活动；许世贤曾经两度挑战嘉义县长落选，1968年当选第6届嘉义市长，成为全台第一位民选市长。1972年当选增额立法委员，1975