主体部分的前身，为时任中华民国陆海军大元帅孙中山于1924年（民国13年）在广州创立的国立广东大学，该校由广东省三所高校合并而成。建校之后，中山大学在发展历程中多次合并其他院校或者部分吸收其院系，并析出部分院系合并组建了今华南理工大学、华南师范大学、华南农业大学等高校。其中，1952年并入中山大学的私立岭南大学、2001年并入的中山医科大学是当前中山大学的重要组成部分，当前中山大学直接继承了原私立岭南大学的校园和文理学科，而且中山医科大学也是由原国立中山大学、岭南大学两校的医学院于1953年合并组建的。