汉祥一度从政界引退，到天津隠居。1922年（民国11年）6月，黎元洪重新担任大总统，饶汉祥应黎元洪的聘请，出任总统府秘书长兼侨务局总裁。翌年6月，黎元洪辞去大总统职务，饶汉祥也同时辞去秘书长职务，到天津隠居。1925年（民国14年），饶汉祥成为奉系郭松龄的秘书长，参加反张作霖的活动。郭松龄战败死亡后，饶汉祥遭到张学良通缉。1927年（民国16年）6月17日，饶汉祥逝世。享年44岁。