年投奔割据凉州的军阀隗嚣。建武四年（28年），奉书至洛阳，受到刘秀礼遇。建武八年（32年），隗嚣叛汉，光武帝亲征，马援“聚米为山谷，指画形势”，使光武帝得以顺利击溃隗嚣。西羌为患，建武十一年（35年），马援任陇西太守，率步骑三千，击破先零羌于临洮（今甘肃岷县）。建武十五年，因「度田」不实，刘秀处死十余名郡守。有一天，光武帝对马援说：“我为了地方官度田不实，杀的人多了些，现在想想有点后悔。”马援回答：“死得其罪，何多之有！但死者既往，不可复生也！”刘秀听后大笑。建武十六年征为虎贲中郎将。建武十七年（41年），