命南下广州，任孙中山军政府参议，10月15日，林修梅病逝于广州。1922年6月16日，陈炯明炮轰总统府，林再度流亡上海。1923年1月2日，林被任命为中国国民党总务部副部长，积极推进国共合作，大力吸收共产党人士加入国民党。1924年1月，林在中国国民党第一次全国代表大会上当选为国民党中央执行委员、农民部长，后前往汉口负责当地的国民党支部活动，6月失败返广州。同年底，林随孙中山北上，次年孙中山病逝于北京，林又随同扶柩至北京西山碧云寺。1925年5月，林回到广州，参加国民党一届三中全会。7月1日，林出任国民政府