22年，杨立三不愿在军阀军队中从事工作，遂潜回家乡。在国民革命的大潮中，杨立三加入中国国民党，在长沙国民党地方党部担任监察委员，集资创办了长沙县县立高等小学和尊阳女校。五卅惨案后，组织进步教师救国巡回演讲团。1925年，杨立三参加农民运动讲习所，多次听毛泽东的演讲，受到共产党的影响。1926年，组织迎接国民革命军北伐军进入湖南。北伐军到湖南后，杨立三被委任为国民革命军长岳游击区第二纵队第二支队长，重新回到军队。1927年1月，杨立三加入中国共产党。1927年9月，杨立三跟随毛泽东参加秋收起义，此后追随毛