（909年），暂代为沁州刺史。沁州当时为贼境并不能保守，乃于州的南面五十里据险立栅以为治所，已经历十余年。李存贤至郡后，乃迁移复建旧郡，计划开发建设险地，特别设立廨舍，使州民能完集。李存勗因此嘉许他，转为检校司空，正式拜为沁州刺史。天祐九年（912年），后梁军乘其无备，来攻沁州，被李存贤击退。天祐十一年（914年），授为武州刺史、山北团练使。天祐十二年（915年），移为慈州刺史。七月，后梁大将尹皓攻州城，李存贤督军拒战，后梁军攻击百端，月余遁去。天祐十八年（921年），河中朱友谦来求援，命令李存贤率师开赴救