元年（923年），李存勗灭后梁建立后唐，李存贤被授为右武卫上将军。同年十一月，入觐洛阳。同光二年（924年）三月，幽州李存审疾笃，要求入觐进见李存勗，众人商议选择将帅取代他。当时正在内宴会上，李存勗慨叹无人能附托时，见李存贤在坐，即日授李存贤为特进、检校太保，充当幽州卢龙节度使。是年五月，李存贤到卢龙镇。当时契丹强盛，城门之外，烽尘交警，一日数战。李存贤性格忠谨周慎，昼夜戒严，不遑寝食，以至忧劳成疾，遂死于幽州，当时六十五岁。李存勗下诏赠为太傅。李存贤少有材力，善于角牴。当初李存勗仍在藩邸时，每次宴会都