De universiteit werd opgezet als Chinees departement van de "Communistische Universiteit van de harde werkers uit het Oosten". De school lag aan de Volchonkastraat 16 in het centrum van Moskou. Het hoofddoel van de universiteit was om mensen te onderwijzen in Marxisme en Leninisme, maar ook gekwalificeerde bolsjewieken te trainen. Michail Borodin wierf de eerste groep studenten. De Moskouse Sun Yat-sen Universiteit begon op 7 november 1925 lessen te geven. Sun Yat-Sen was toen inmiddels overleden. De universiteit telde zo'n honderd Chinese studenten en werd vernoemd naar Sun, vanwege zijn belangrijke bijdrage aan de Xinhairevolutie.