至因为儿子的家书而遭怀疑被策反而枪决，无法说动高层，吴三连只得用市长身分去台北监狱视察，趁机偷偷去看吴逸民。1954年吴三连在台南县议会议长邀请下参选台湾省议员并当选，1957年连任。任内与郭雨新、郭国基、李源栈、李万居等人并称为「党外五虎将」、「五龙一凤」，吴三连在这段期间不但投入《自立晚报》的经营，也参与雷震的组党运动。1960年在第二任省议员任期届满，由于感到体力不能承受，加上选风败坏，以及背负太多「人情债」，吴三连决定不再寻求连任。
卸任后.吴三连为「台南帮」重要精神领