阳太守等职。永康元年（300年），赵王司马伦在推翻贾后集团后自任相国，为取得好名声，于是广招国内有德望之士任官，其中荀组获任命为相国右长史。次年，司马伦篡位，自立为帝，任命荀组为侍中。不久司马冏起兵击败司马伦，迎晋惠帝复位；太安元年（302年）十二月，司马乂击败司马冏，并在洛阳以太尉身份掌政。永兴元年（304年），司马乂在抵抗司马颖及司马颙部将张方的讨伐军时被司马越等人囚于金墉城，后被张方所杀，洛阳陷落，惠帝派荀组和散骑常侍闾丘沖去见司马颖，慰劳其军。同年年末，原本在该年击败司马越领导的讨伐军并俘虏惠帝