石聪后，朝廷又议论修筑涂塘以防御北方。祖约见此，认为是被放弃了，于是十分愤恨。后更向派往安抚的蔡谟非议朝政。次年，庾亮征苏峻为大司农，苏峻不应命，并请祖约联合以讨伐庾亮为名起兵。祖约因为怨恨已久，得知苏峻的邀请后十分高兴，于是派侄儿祖涣和女婿淮南太守许柳领兵与苏峻会合。次年苏峻攻陷建康，执掌朝政，祖约亦获任命为侍中、太尉、尚书令。及后颖川人陈光率众攻祖约，祖约仅以一名长得像他的部下才得以脱身。陈光后来投奔后赵，而祖约一众部将亦与石勒勾结，作为内应背叛祖约，于是在同年，石勒派石聪进攻时祖约军溃败，唯有逃到