军石虎以邺城为根据地，他建议石勒营建邺城宫，派太子石弘镇守。石虎与他结仇。太和三年（330年）石勒称帝，程遐为尚书右仆射。多次劝石勒杀死石虎，对石勒说担心石虎他日不会辅佐石弘，石勒只当程遐认为石虎会妨碍他作为新君的舅舅擅权。石勒死后，石虎杀死程遐和中书令徐光。