乡侯当皇帝时，马融称病辞去郎中的职务，并担任郡功曹。阳嘉二年（133年），天子下诏书推举敦厚朴素的人。城门校尉岑起举荐马融。朝廷便征召马融到公车，回答天子所设的试题，被授予议郎。大将军梁商举荐他担任从事中郎，后改任武都太守。当时正值西羌叛乱，征西将军马贤同护羌校尉胡畴受命征讨西羌，却长时间滞留不前。马融知马贤定会失败，便上书要求效力，说马贤处处滞留，错过时机，同时他还担心马贤中声东击西之计，又怕出现将领、士兵溃败叛变的情况。如果能将关东的五千士卒编入他的麾下，他将身先士卒，一月之内必败羌人。但朝廷并