386年），丁零翟辽叛晋，朱序遣将军秦膺、童斌及淮泗诸郡讨伐翟辽，不久又在谯国（今安徽亳州）击退进侵的翟辽。次年改监青兖二州诸军事，并领二州刺史，镇彭城（今江苏徐州市），朱序认为彭城远离建康，支援不接，自请改镇淮阴（今江苏淮阴）。及后翟辽又命其子翟钊进攻陈郡、颍川等地，朱序又派秦膺击退，遂拜征虏将军。后朱序上请自江州运十万斛米及五千匹布作军资，获得批准。太元十三年（388年）迁都督司、雍、梁、秦四州诸军事、雍州刺史、戍洛阳。当时晋孝武帝更派杨佺期及赵睦各领一千兵归朱序统率。后朱序又求取得前荆州刺史桓石生的百