与西凉军阀韩遂互结为义兄弟，以种邵、马宇、刘范为内应，起兵十余万攻向长安，但受制于贾诩的谋略而功败垂成。第二十回起参与董承等人暗杀专权的曹操的衣带诏计划，并将刘备推荐给董承，因事情败露而逃回凉州。第五十七回被曹操征召入朝时，为了达成多年心愿，而和黄奎欲讨伐曹操，但事情最终败露，马腾和儿子马休、马铁全部被杀。马腾的死讯传出后，马超和韩遂为了报仇，在西凉起兵反叛曹操。 此外，戏说三国志演义的时代小说《反三国演义》中，称他作马云绿（马云禄）的父亲，纯属虚构，其作者为周大荒。