征北将军褚裒的长史。永和四年（348年），时任扬州刺史的殷浩以荀羡的良好名声，擢升荀羡为建威将军、吴国内史，与王羲之作为党羽，共同抗衡桓温。永和五年（349年）十二月，当时兼领徐州刺史的褚裒逝世，殷浩以他有能干的名声，让他任北中郎将、徐州刺史，假节监徐、兖二州及扬州之晋陵诸军事，镇守京口（今江苏镇江）。当时荀羡以二十八岁之龄担当此重任，亦是东晋以来最年轻担任一州刺史的人。荀羡到任后，便派徐、兖二州兵让参军郑袭守戍淮阴。永和六年（350年），荀羡入朝，当时领司徒蔡谟三年以来坚拒接受司徒一职，终被弹劾，蔡谟