刺史张训屯涟水，遣兵浮海掩袭刘知俊得其草料。刘知俊战不胜，攻涟水，大败，仅以身免。后攻克海州，被奏授海州刺史。光化三年（900年）七月，因朱全忠所奏，刘知俊以宣武军押衙为检校右仆射。天复初年，历任怀州、郑州刺史。天复元年（901年），以神策军左中尉韩全诲为首的当权宦官害怕在位的唐昭宗和宰相崔胤要屠戮他们，将昭宗从长安劫持到盟友李茂贞治下的凤翔。崔胤召朱全忠，朱全忠包围凤翔军部凤翔府。但是围城陷入僵持，朱全忠长期不能攻克凤翔。二年（902年）九月，朱全忠因长期下雨且士卒多病，想解围撤到河中，在刘知俊和亲从