郡茂陵县（今陕西省兴平县）人，是东汉开国功臣马援的长子，明德马皇后的长兄。年少时，马廖主攻《易经》。因父职而为郎官。汉明帝永平三年（60年），其妹被立为皇后，马廖被封为羽林左监、虎贲中郎将。汉明帝逝世后，他受遗诏掌管宫禁门卫，成为卫尉。马皇后的养子汉章帝即位后，马皇后成为马太后，汉章帝更是重用马廖，皆委以要职。马太后以身作则，提倡一切从简，马廖思虑此举难成气候，遂建议太后实行德政。马廖为人谨小慎微，洁身自好，不好权势名声，朝廷多次请封外戚，马廖都婉辞不就。但在马太后的劝说下，马廖终于在建初四年（79