府参军元亨的孙子，魏成主簿、延唐丞元延祖的儿子。天宝十二载（753年）进士。安史之乱，史思明攻克洛阳，他到长安向唐肃宗上书。被任命为左金吾卫兵曹参军、监察御史。761年，任山南道节度使参谋，守泌阳，保住了15座城。宝应元年（762年），唐代宗即位后，为着作郎。追赠其父元延祖为左赞善大夫。763年，出任道州刺史，减轻赋税，免除徭役。第二年，为容管经略使，几个月内，安定了容管八州。逝世后，追赠礼部侍郎。二子元以方、元以明。元结有《元次山集》。
元次山碑.元次山碑全称《唐故容州都督兼