Koo var videre involvert i dannelsen av Folkeforbundet som Kinas første representant i det nylig dannede forbundet. Han fungerte som president i Kina i 1926–1927 i en periode med kaos i Beijing. Senere var han utenriksminister under Chang Tso-lin, og som representant for Kina i Folkeforbundet protesterte han mot Japans invasjon av Mandsjuria. 1936–1940 fungerte han som ambassadør i Frankrike, inntil landet ble besatt av tyskerne. Derpå ble han kinesisk ambassadør i Storbritannia til 1946.