洛阳以太尉身份掌政。永兴元年（304年），司马乂在抵抗司马颖及司马颙部将张方的讨伐军时被司马越等人囚于金墉城，后被张方所杀，洛阳陷落，惠帝派荀组和散骑常侍闾丘沖去见司马颖，慰劳其军。同年年末，原本在该年击败司马越领导的讨伐军并俘虏惠帝到邺城的司马颖受王浚和东嬴公司马腾的军事压力下与惠帝逃出根据地邺城，南逃洛阳。当时控制洛阳的张方强迁惠帝到司马颙根据地长安后，荀组留洛阳，先后任尚书、衞尉，获封成阳县男，加散骑常侍，中书监。后转司隶校尉，加特进、光禄大夫。当时荀组兄长荀藩为太子少傅、尚书令，二人地位皆高贵显