侄孙。高祖武仁范，曾任云阳县令。建中四年（783年）登进士第。历官监察御史、华原县令，畿辅镇军督将恃恩矜功，皆骄横桡政，元衡苦之，称疾去官，德宗知其才，召为比部员外郎，岁内三迁右司郎中，后官御史中丞。德宗很器重他，对群臣说：“武元衡是真宰相器。”其后于唐顺宗年间为王叔文等改革派排挤，罢为右庶子。唐宪宗元和二年（807年）正月，拜门下侍郎、平章事，兼判户部事。十月封临淮郡公，充剑南西川节度使。元和八年三月十一日，代高崇文为西川节度使，政绩卓着，中外同钦。武元衡精于五言诗，诗人张为编撰的《诗人主客图》，评论