前秦军于是溃退，晋军乘机进击，大破前秦。东晋因而在淝水之战大获全胜，而朱序亦因而得以回到东晋，拜龙骧将军、琅琊内史。次年东晋收复洛阳（今河南洛阳），朱序转监扬州豫州五郡军事、豫州刺史，屯洛阳。
守戍北土.太元十一年（386年），丁零翟辽叛晋，朱序遣将军秦膺、童斌及淮泗诸郡讨伐翟辽，不久又在谯国（今安徽亳州）击退进侵的翟辽。次年改监青兖二州诸军事，并领二州刺史，镇彭城（今江苏徐州市），朱序认为彭城远离建康，支援不接，自请改镇淮阴（今江苏淮阴）。及后翟辽又命其子翟钊进攻陈郡、颍川等地，