和四年（329年），征北大将军陶侃领导的讨伐军击败了接管苏峻军队的苏逸，大致平定了叛乱，同时赵胤亦派甘苗进攻历阳，祖约因畏惧而乘夜领左右数百人逃亡到后赵，将领牵腾则率众献城投降。祖约到后赵后，石勒因看不起他的为人而久久没有接见。咸和五年（330年），程遐向石勒上言，认为后赵现在大致安定，应向世人辨明叛逆和忠顺，以祖约身为叛臣，且让宾客夺佔乡人田地，令地主多有怨言为由，建议杀害祖约，石勒于是请他和祖氏家人一同与他见面。但在当天石勒却以病不见，改让程遐会请祖约。祖约自知大难临头，于是饮酒至醉。及后祖氏一族一