2年4月，他与刘林圃、习仲勋等一起组织发动“两当兵变”，建立了陕甘工农游击队第五支队。兵变失败后，吕剑人再次被捕，被关押在西安绥靖公署军法处，后以“兵变胁从罪”被判刑10年。1936年5月经中共组织营救，获假释出狱；出狱后，回到家乡干县发展革命武装。“西安事变”和平解决后，吕剑人又被派到杨虎城部，任中共陕西省委军委联络员，管理国民党军队中部分地下党的工作。抗日战争全面爆发后，吕剑人奉命在沿黄河西岸各县，参与恢复和建立县级中共组织；历任中共沿河特委委员，中共西府地委书记、特派员；1940年，担任陕西省委统