Koo gikk på Saint John's University i Shanghai og Columbia University i New York, der han var medlem av litteratur- og debattklubben . I 1912 tok Koo doktorgrad i internasjonal rett og diplomati ved Columbia University.