Cchaj Jüan-pchej se narodil v Šao-sing, v provincii Če-ťiang. Dostalo se mu tradičního vzdělání a členství v akademii Chan-lin, ale po porážce v čínsko-japonské válce dospěl k přesvědčení, že tradiční vzdělanost v Číně zaostala za moderní dobou. Začal studovat západní myšlení a kulturu. Inspirován revolucemi za demokracii, rozhodl se zcela změnit svůj styl učení. Od roku 1898 strávil spoustu času vyučováním na státních a soukromých školách. Cchaj Jüan-pchej byl na sklonku dynastie Čching členem císařské akademie Chan-lin, připojil se však k Sunjatsenově revoluční lize. Založil novou organizaci, Univerzitní radu, která byla součásti ministerstva školství, kde bylo možné rozhodovat o záležitostech vzdělávání, ta však byla zrušena. O měsíc později byl jmenován prvním ministrem školství v krátkodobém kabinetu Jüan Š’-kchajovi vlády. V roce 1905 byl již známý jako aktivista a revolucionář, který prosazoval západní vzdělání. V tomto roce také zřídil dívčí školu. Svoji vzdělaneckou filozofii rozvinul nejvíce v období mezi lety 1907–1922, které strávil z většiny pobytem v Evropě. Mezi lety 1907–1911 podnikal cesty napříč Německem, další čtyři roky strávil ve Francii a rok na cestách po Evropě a Americe. Po návratu z cest, inspirován západním stylem vzdělání, se začal více angažovat ve své roli prvního ministra vzdělání. Chtěl, aby čínští učitelé nabízeli občanům vzdělání vojenské, praktické, občanské, estetické a mimo to, také aby vyučovali své studenty způsobům, jak pohlížet na svět. Jeho snahou bylo dosáhnout svobody ve vzdělání a čisté vědy. Když se v roce 1917 stal Cchaj Jüan-pchej rektorem Pekingské univerzity, odstartoval tím novou éru čínského vzdělávání. Studenti vzhlíželi k Cchaj Jüan-pchejovi jako k morálnímu lídrovi. V květnu 1919 prchl z Pekingu před zatčením, kvůli spojování svého jména se studentskými demonstracemi. Vrátil se v srpnu ještě téhož roku, když se situace začala zlepšovat. V roce 1928 založil akademickou instituci Academia Sinica.