能击剑骑射，通读春秋左传。马严任郡督邮，叔父马援常委托家事。马援死后，马严和弟弟马敦归居巨下，行义资材，号称巨下二卿。马援女为汉明帝皇后，马严居北地郡。永平十五年（72年），马严回到洛阳，和班固一起杂定《建武注纪》。后马严为将军长史，率军屯西河郡，护卫南匈奴。汉章帝继位，拜马严为御史中丞，迁五官中郎将。建初二年（77年）马严为陈留郡太守，治理地方，赏罚严明。建初六年（81年），为太中大夫，将作大匠。建初七年（82年），得罪窦氏，免官没有复职。永元十年（98年），马严在家中去世，年八十七岁。