四队十二班学习。在讲习所，结识更多中国共产党党员，系统学习了马列主义。1926年夏，加入中国共产党。1926年7月，谢维俊奉命回家乡进行工农运动。其间，他发展中国共产党党员，成立党组织，领导民众斗争。1928年初，参与领导耒阳“肥田暴动”。不久，随湘南暴动部队上井冈山，参加了毛泽东、朱德领导的红四军，任红四军二十八团一营某连党代表。后来任第二营党代表。1929年春，随毛泽东、朱德率领的红四军出击赣南、闽西，开创赣南、闽西革命根据地。当毛泽东、朱德受排挤时，他站在毛泽东一边。1929年底，调任一纵队政治部