当韩建担保效忠皇帝后，昭宗君臣前往镇国军军部华州。昭宗在华州期间因李茂贞的士兵焚毁了长安大部分宫室，以徐彦若为大明宫留守，兼京畿安抚制置等使，意在让徐彦若负责重建长安，但徐彦若在长安重建中起到的作用不详。光化元年（898年），昭宗得以返京，正月，徐彦若为司徒，二年（899年）十一月又进位太保、门下侍郎。
拜相后.在徐彦若和崔胤劝说下，昭宗下诏李克用与宣武军节度使朱全忠解仇。宦官枢密使景务修、宋道弼复专政，崔胤深恶之，彼此不睦。徐彦若和王抟有度量，担心他们相争危及时局，曾奏请昭宗