安抚制置等使，意在让徐彦若负责重建长安，但徐彦若在长安重建中起到的作用不详。光化元年（898年），昭宗得以返京，正月，徐彦若为司徒，二年（899年）十一月又进位太保、门下侍郎。
拜相后.在徐彦若和崔胤劝说下，昭宗下诏李克用与宣武军节度使朱全忠解仇。宦官枢密使景务修、宋道弼复专政，崔胤深恶之，彼此不睦。徐彦若和王抟有度量，担心他们相争危及时局，曾奏请昭宗整改宦官擅权之弊；并稍抑崔胤以为调和，因而为崔胤所恶。光化三年（900年）九月，崔胤成为朝中最有权的宰相，嫉妒徐彦若位在自己之上