永和八年（352年），殷浩北伐，以荀羡为督统，打算让他与安西将军谢尚两路北上。三月命荀羡镇淮阴，荀羡于是在东阳石鼈进行屯田。不久又获加监青州诸军事，加领兖州刺史，镇下邳（今江苏邳州市）。永和十一年（355年），于永和七年（351年）以青州内附东晋的前燕段龛写信给已于三年前称帝的慕容儁，指责他称帝叛晋的行为。慕容儁愤怒而派兵攻打段龛，并于次年击败段龛，逼使他退守广固，并派人向东晋求救。荀羡于是奉诏领兵北上救援，但到琅琊郡时因畏惧强悍的前燕军队而不敢前进。当时前燕将领王腾及赵盘正在进攻侨置于琅琊的鄄城郡，