浩打算加蔡谟死刑，并询问荀羡意见，但荀羡认为一旦蔡谟被处死，不久就会有人举兵问蔡谟犯了何罪而被杀，暗指当时都督八州的征西大将军桓温。殷浩听后，打消念头。
守衞北土.永和八年（352年），殷浩北伐，以荀羡为督统，打算让他与安西将军谢尚两路北上。三月命荀羡镇淮阴，荀羡于是在东阳石鼈进行屯田。不久又获加监青州诸军事，加领兖州刺史，镇下邳（今江苏邳州市）。永和十一年（355年），于永和七年（351年）以青州内附东晋的前燕段龛写信给已于三年前称帝的慕容儁，指责他称帝叛晋的行为。慕容儁愤怒