遂率士应募，补承节郎（武阶，第五十一阶，从九品）。李纲宣抚两河，上书言纲不知兵，恐误国。书闻，下有司追捕，乃亡去，易名彦仙。以效用从河东军，谍金人还，复补校尉。建炎元年(1127年)，靖康之变后，李彦仙在陕州组织义军，于次年收复了陕州、安邑、正平、解州，高宗任命他为知陕州事兼安抚使，迁武节郎（武阶，第三十八阶，从七品）、阁门宣赞舍人（职，从七品）。建炎三年(1129年)，李彦仙抵御住了金将乌鲁撒拔和完颜娄室（娄宿）的勐烈进攻。当年冬天，娄宿和叛将折可求率军十万进攻陕州，围城数月，李彦仙坚守孤城。次年正月，陕