州县集北头村，从小身体不好，1914年，在他五岁时，由家中仆人张耀廷教导他迷踪拳，以求强身。八极拳名家「神枪」李书文曾在其父刘之沂部队中担任教习，1916年，在刘云樵8岁时，刘之沂邀请李书文到府教拳，成为李书文的关门弟子。19岁时，父亲原来想让他到朝阳大学法律系唸书，刘云樵反而跟着李书文四处闯盪。1931年，李书文应李景林的邀请，到山东国术馆担任总教习，刘云樵随行。当时，李书文另一名弟子张骧伍，正在山东黄县负责维持治安、肃清烟毒、清剿土匪，李书文带着刘云樵前去拜访。刘云樵在这时候初开始展露头角，连连挫败