帝入长安。东晋建立后因石勒的军事压力而南渡，在东晋官至司徒，太尉、领太子太保。荀组是东汉司空荀爽的玄孙，西晋守尚书令荀勖之子。其妻为华歆的曾孙女华苕（字宣华）。
生平.荀组早年曾任太子舍人，司徒左长史，太子中庶子，荥阳太守等职。永康元年（300年），赵王司马伦在推翻贾后集团后自任相国，为取得好名声，于是广招国内有德望之士任官，其中荀组获任命为相国右长史。次年，司马伦篡位，自立为帝，任命荀组为侍中。不久司马冏起兵击败司马伦，迎晋惠帝复位；太安元年（302年）十二月，司马乂击败司马冏，