帅王璋于阵中，以功迁龙捷右第九军都虞候，之后累转铁骑右第二军都校、领合州刺史。又跟从张永德攻打瀛州，攻占束城，改散员都指挥使。
陈桥兵变.显德七年正月，禁军统帅赵匡胤假意领兵抗敌，至陈桥时发动叛乱，得石守信帮助领兵入汴京，是为陈桥兵变。彦昇以所部人马率先进入京城，在路上遇到准备募兵抵抗的「马步军副都指挥使」韩通，并一直追击到韩通的府邸，将其一家人全部灭门。赵匡胤入城之初，曾晓谕诸将，保持军纪，不要杀人。故听说彦昇杀害韩通一家，非常不悦。由于建国之初，需笼络人心，未加罪，仍升为铁