天祐十一年（914年），授为武州刺史、山北团练使。天祐十二年（915年），移为慈州刺史。七月，后梁大将尹皓攻州城，李存贤督军拒战，后梁军攻击百端，月余遁去。天祐十八年（921年），河中朱友谦来求援，命令李存贤率师开赴救援。天祐十九年（922年），后梁将领段凝率军五万立营逼近晋地，蒲人大为恐慌，多数人欲归降后梁。间谍离间存贤说河中将士欲拘留他降于后梁，但是，李存贤回应说既然奉命援河中，殁于王事是固然的。后梁军退后，以功加检校司徒。同光元年（923年），李存勗灭后梁建立后唐，李存贤被授为右武卫上将军。同年十