入京城，在路上遇到准备募兵抵抗的「马步军副都指挥使」韩通，并一直追击到韩通的府邸，将其一家人全部灭门。赵匡胤入城之初，曾晓谕诸将，保持军纪，不要杀人。故听说彦昇杀害韩通一家，非常不悦。由于建国之初，需笼络人心，未加罪，仍升为铁骑左厢都指挥使，拜恩州团练使，后任京城巡检之职。彦昇一日借巡检之名，半夜至宰相王溥府第，王溥惊悸，出来迎接，彦昇落座以后，说其夜巡很困，过来找王溥喝个酒，其实彦昇想向王溥索贿。王溥假装不知道彦昇目的，摆上酒宴款待一番，敷衍了彦昇。第二天，王溥将此事密奏宋太祖，太祖将彦昇外放为唐州刺