因组织学生反对传统的旧式教育制度，年底被迫休学。1928年1月，在三原县第三师范读书。1928年春参加学生运动，被捕后在狱中转为中国共产党党员；1930年初，受党组织委派到国民革命军西北军杨虎城部做兵运工作，任中共营委书记。1932年3月，习仲勋与吕剑人、李特生、许天洁等等组织发动了“两当兵变”，任中国工农红军陕甘游击队第五支队队委书记。随后部队在攻打永寿县城时被打散，习仲勋秘密返回家乡。同年9月，进入渭北革命根据地，任渭北游击队第二支队政治指导员。1933年2月，任共青团三原中心县委书记，从事武装斗争