唐懿宗年间为宰相。徐彦若至少有四个弟弟徐仁嗣、徐仁矩、徐仁范和徐仁勗。《旧唐书》记载其有弟徐彦枢，未知是否即以上四人之一。徐彦若于唐懿宗咸通十二年（872年）中进士。唐僖宗干符元年（874年）十一月，以吏部员外郎为长安令。末年，以尚书郎知制诰，正拜中书舍人。
唐昭宗年间.
拜相前.文德元年（888年），唐僖宗崩，弟唐昭宗继位。徐彦若以吏部侍郎迁御史中丞。大顺二年（891年），朝廷讨伐军阀河东节度使李克用失利，正月，倡导此战的宰相张濬和孔纬被罢免，徐彦若和翰