北平文化大学で中国語を学んだ後、1924年に河北省の保定陸軍軍官学校（北方軍官学校だったとも）砲兵科を卒業して砲兵将校となり、閻錫山の軍閥に参加した。朝鮮人革命家の呂運亨の影響で1925年に北京で中国共産党に入党。馮玉祥部隊に従軍して南口大戦及び北伐に参加。広州蜂起に参加し、1929年には上海労働者の暴動を指導した。そのためイギリス租界で逮捕され2か月間拘留された。