中共中央任命为特派员，至江西整顿党、团组织。1926年8月至1927年1月，任中共江西地方执行委员会书记。1927年1月至5月，任中共江西区执行委员会书记、南昌地方执行委员会书记。4月到武汉，参加中国共产党第五次全国代表大会，会上当选为中共第五届中央委员会监察委员会委员。第一次国共合作破裂后，刘峻山参加南昌起义的地方宣传组织工作，任革命委员会下属粮秣委员会成员。10月起义军南下失败后，他经香港返回上海。11月任中国革命济难总会秘书长。1928年夏赴杭州。同年11月至12月，任中共浙江省委常务委员、秘书长