回到西安后，参加中共陕西省委军委的领导工作。8月，根据省委决定，到第二集团军第六旅做兵运工作，以军事教官身份为掩护，任秘密的中共党团书记，负责制定、实施第六旅的军事行动计划，积极进行起义的各项准备工作。同年10月，任陕北革命军事委员会书记。根据中共中央八七会议精神及中共陕西省委指示，与谢子长、李象九、白乐亭等领导第六旅举行清涧起义。起义部队会合后发展到1700余人，他与谢子长主张立即打出工农革命红旗，之后整顿部队，扩大革命力量。但因领导人意见不一致，延误了时间，使起义部队遭到很大损失。后余部改编为西北工农革