本是蜀地人，后唐同光中，举家迁至洛阳。最初，彦昇在宦官骠骑大将军孟汉琼部下，孟汉琼以其骁勇，推荐给唐明宗李嗣源，补东班承旨。后晋天福年间，转内殿直。晋开运初，契丹围魏博，晋少帝石重贵幸澶州，王彦升与罗彦环应募，护送少帝突围，以功迁护圣指挥使。后周广顺年间，跟从向拱进兵太原，领兵至虒亭南面，斩敌帅王璋于阵中，以功迁龙捷右第九军都虞候，之后累转铁骑右第二军都校、领合州刺史。又跟从张永德攻打瀛州，攻占束城，改散员都指挥使。
陈桥兵变.显德七年正月，禁军统帅赵匡胤假意领兵抗敌，