降服单于。曹操表拜马腾为征南将军，韩遂为征西将军，俱开府。205年，曹操派张既征集马腾等人击败了高干与张晟，斩杀了反叛的卫固等人。建安十三年（208年），起先因部曲间的矛盾，马腾和韩遂二人成为仇敌，韩遂杀掉了马腾的妻儿，二人连年交战。曹操派钟繇、韦端前去劝和，升马腾为前将军，改屯槐里，假节，封槐里侯。张既劝说马腾放弃部队，入朝为官，马腾一度犹豫，自见年老，最终答应，于年末来到邺城。曹操上表封马腾为卫尉，封其子马超为偏将军，代替马腾统领部队，屯于原地，又封其子马休为奉车都尉，马铁为骑都尉，同其余家属徙