彭城守将徐州刺史赵迁弃城逃走，谢玄遂领军进据彭城。谢玄又即派彭城内史刘牢之及参军刘袭进攻驻鄄城的前秦兖州刺史张崇，并在张崇败走后命刘牢之进屯鄄城，由其讨平附近的抵抗势力，黄河以南诸堡遂望风降晋。随后谢玄进攻青州，并派淮阴太守高素逼降驻于广固的前秦青州刺史苻朗。留守邺城的秦长乐公苻丕虽以坚守令得后燕主慕容垂暂时放弃夺取邺城，但仍面临孤立无援的困境，而此时谢玄已命令麾下北府诸将进攻冀州，刘牢之、济北太守丁匡以及济阳太守郭满分别镇守河南重镇碻磝及滑台，而奋武将军颜雄就北渡黄河建营。苻丕派了桑据到黎阳防备晋军，