长大后，因葛从周所荐，效力朱全忠为骑将，后来朱全忠代唐称帝建立后梁。谢彦璋转右仆射，充西京内直马军都指挥使，屡次带兵征战，加金紫光禄大夫、检校司空。
对晋作战.干化三年（913年）梁末帝嗣位，用谢彦璋为两京马军都军使，屡次与敌国晋国交战有功，被加检校司徒，除授郑州刺史。贞明初年，葛从周去世，谢彦璋临丧着丧服，亲自参与葬事，时人以为义。元年（915年），特加检校太保，领河阳节度使。不到一年，又充东面行营两京马军都军使。二年（916年）二月，奉命与匡国军节度使王檀、汝州防御使王彦章率师