镇守建康的琅邪王司马睿为盟主。同时荀藩、荀组和阎鼎亦协助秦王司马邺西入长安。但二荀不愿随行入关，在途中逃回。永嘉六年（312年），司马邺于长安称皇太子，任命荀组领司隶校尉，行豫州刺史事。当时荀组与荀藩据守荥阳开封。次年，荀藩逝世，荀组升任司空，领尚书左仆射，兼司隶，行留台事，并进封临颍县公。再次年，任太尉，领豫州牧，假节。建武元年（317年），司马睿以荀组为司徒。太兴元年（318年），司马睿即位为帝。同年荀组因受石勒的军事压力，于是率领属下数百人南渡长江。司马睿命荀组与太保西阳王司马羕并录尚书事。永