，以功迁护圣指挥使。后周广顺年间，跟从向拱进兵太原，领兵至虒亭南面，斩敌帅王璋于阵中，以功迁龙捷右第九军都虞候，之后累转铁骑右第二军都校、领合州刺史。又跟从张永德攻打瀛州，攻占束城，改散员都指挥使。
陈桥兵变.显德七年正月，禁军统帅赵匡胤假意领兵抗敌，至陈桥时发动叛乱，得石守信帮助领兵入汴京，是为陈桥兵变。彦昇以所部人马率先进入京城，在路上遇到准备募兵抵抗的「马步军副都指挥使」韩通，并一直追击到韩通的府邸，将其一家人全部灭门。赵匡胤入城之初，曾晓谕诸将，保持军纪，不要杀人。