和匡互生、张耀斗等人参加五四运动，并因此而两度被北洋政府逮捕。获释后，他回到陕西，历任三原渭北中学、西安陕西省立第二中学教务主任，陕西省立第一师范学校校长。后来他被陕西省教育当局免职。 1923年，赴上海大学任教并兼任附中部主任，其间他受到该校中共党员瞿秋白、邓中夏、恽代英等人影响。1924年，受李子洲约请回陕西，任绥德陕西省立第四师范学校教务主任。1925年与魏野畴等组织陕西国民党党员俱乐部，接着组成中国国民党陕西省临时党部，任临时省党部执委兼陕北二十三县党务特派员。1926年12月，加入中国共产党。