1880 nach Penang zurückgekehrt, trat Gu bald in den öffentlichen Dienst des kolonialen Singapur ein, wo er bis 1883 arbeitete. Der Meinungsaustausch mit Ma Jianzhong veranlasste Gu zu einer inneren Wende hin zu einem intensiven Studium der chinesischen Kultur. 1885 begab er sich nach China, um dann für die nächsten 20 Jahre als Berater des hochrangigen Beamten Zhang Zhidong zu dienen. Gu war – so wie Zhang oder auch Lew Tolstoi – Kritiker an der von Kang Youwei ins Leben gerufenen reformerischen Bewegung ab 1898 hin zu einer konstitutionellen Monarchie. 1905 wurde Gu zum Vorsitzenden des Huangpu-Wasserwirtschaftsamtes (上海浚治黄浦江河道局) in Schanghai befördert. Anschließend tat er von 1908 bis 1910 Dienst beim Reichsministerium des Auswärtigen und nahm dann die Präsidentschaft der staatlichen Schule Nanyang – des Vorläufers der Jiao Tong Universität Schanghai – wahr. Von dieser Stelle trat Gu im Jahre 1911 zurück, um seine Loyalität gegenüber der durch die Xinhai-Revolution gestürzten kaiserlichen Regierung zu bezeugen. 1915 wurde Gu als Professor an die Universität Peking berufen, legte jedoch 1923 aus Protest gegen die Entlassung des Präsidenten Cai Yuanpei erneut das Amt nieder. Seit 1924 lehrte Gu für drei Jahre in Japan sowie im von Japan regierten Taiwan als Gastdozent in Ostasienwissenschaften. Nach der Rückkehr nach China lebte Gu in Peking bis seinen Tod am 30. April 1928 im Alter von 70 Jahren.