李克用绝交依附朱全忠，史俨、李承嗣及史建章等河东将领因此无法回军。四年（897年）正月，郓州失守，朱瑾为朱全忠所迫，粮尽，留大将康怀贞守军部兖州，与史俨、李承嗣劫掠徐州之境丰、沛之间求食，康怀贞等投降朱全忠。二月，朱瑾等投沂州，沂州刺史尹处宾不纳，又逃到海州，在宣武军逼迫下，最终率海州百姓渡过淮河投靠淮南节度使杨行密，杨行密在高邮迎接他们，对史俨、李承嗣、史建章都推心置腹不怀疑，都用为将。淮南军本来善水战但不知骑射，得到河东、泰宁、天平的军队后，军声大振。杨行密署李承嗣为淮南行军副使。史俨、李承嗣都是河东骁