州于景福二年（893年）四月被朱全忠军攻陷，时溥自焚。刘知俊得补徐州马步军都指挥使。干宁二年（895年），刘知俊储谷于石砀，准备南袭宁国军节度使杨行密，杨行密所授温州刺史张训屯涟水，遣兵浮海掩袭刘知俊得其草料。刘知俊战不胜，攻涟水，大败，仅以身免。后攻克海州，被奏授海州刺史。光化三年（900年）七月，因朱全忠所奏，刘知俊以宣武军押衙为检校右仆射。天复初年，历任怀州、郑州刺史。天复元年（901年），以神策军左中尉韩全诲为首的当权宦官害怕在位的唐昭宗和宰相崔胤要屠戮他们，将昭宗从长安劫持到盟友李茂贞治下的凤