176年，为马腾庶长子，也是诸子中武勇最为出众者。建安七年（202年）曹操与袁绍交战时，马腾曾派马超出任司隶校尉钟繇的督军从事，讨伐于平阳的袁绍将领郭援、高干。马超的脚中箭受伤，但仍大破敌军，其麾下庞德更斩杀郭援，马超因功被拜徐州刺史，但并未赴任。曹操任丞相时，曾想将马超召进京，拜谏议大夫。但马超不接受。此后马腾与自己的义兄弟镇西将军韩遂不和，韩遂杀马腾妻儿。曹操派钟繇、韦端前去劝和，升马腾为前将军，改屯槐里，假节，封槐里侯。张既劝说马腾放弃军队，入朝为官，马腾一度犹豫，马腾自见年老，最终答应，来到邺城