到达长安后，写信给马腾和韩遂，陈述利害关系，于是两人愿意归顺，各自送来儿子作人质。
经汤莫若.202年，袁绍病逝，其子袁尚欲与马腾及韩遂联合，马腾假装答应。后曹操派钟繇与袁尚所置的河东太守郭援以及匈奴南单于在平阳交战，在曹操使者张既和傅干等人的劝说下，马腾决定帮助曹军，派儿子马超带领万余人去帮助钟繇击郭援，马腾遣子马超将精兵逆之。郭援兵至平阳，轻率过河，众止之却不听从，过河未半便被击败，马超的部下庞德在战场上亲手斩杀郭援并降服单于。曹操表拜马腾为征南将军，韩遂为征西将军，俱开府。