律师事务所的业务，而前往台中县雾峰乡成为全职的台湾省议会议员，并且主张信赖人民和以民为主。在台湾省议会中林义雄多次犀利质询政府官员，其中林义雄除了要求当时官派的台湾省政府主席林洋港应以「将人民当主人来服侍」的民主政治态度服务外，同时要求政府应该平等对待闽南语的使用。另外林义雄和同时期当选的张俊宏、余陈月瑛、张贵木等党外议员组成「党外十三人组」，透过联合质询的方式逼问台湾省政府官员并且多次打破言论禁忌。同时林义雄也强调政府应当公开且公平的举办选举活动，并且率先婉谢官员、厂商和民众赠送的礼物或者提出的会面等。