苏峻不应命，并联结镇西将军祖约进攻建康，王舒于是受诏行扬州刺史事。次年苏峻攻陷建康，吴国内史庾冰亦因抵挡不住苏峻军进攻而弃郡来投。王舒后收到王导以太后诏谕为名的密令，要三吴人起兵勤王，于是派庾冰和谢藻率一万兵渡浙江，吴兴太守虞潭、吴国内史蔡谟和前义兴太守顾众都响应，亦起兵讨伐苏峻。及后庾冰等军与苏峻所派的张健、弘徽等人多次作战，期间互有胜负，因一些战事失利而令吴郡及吴兴多个县被掠，王舒于是派王允之行扬烈将军，与徐逊、陈孺等将领以轻兵于武康突袭苏峻军，后即收取战利品协助虞潭，更击退从宣城来侵的苏峻将领韩晃。