指当时都督八州的征西大将军桓温。殷浩听后，打消念头。
守衞北土.永和八年（352年），殷浩北伐，以荀羡为督统，打算让他与安西将军谢尚两路北上。三月命荀羡镇淮阴，荀羡于是在东阳石鼈进行屯田。不久又获加监青州诸军事，加领兖州刺史，镇下邳（今江苏邳州市）。永和十一年（355年），于永和七年（351年）以青州内附东晋的前燕段龛写信给已于三年前称帝的慕容儁，指责他称帝叛晋的行为。慕容儁愤怒而派兵攻打段龛，并于次年击败段龛，逼使他退守广固，并派人向东晋求救。荀羡于是奉诏领兵北上救援，但到琅