Auch nach seiner Zeit in der Bundesregierung blieb Foster als Diplomat aktiv. 1895 vertrat er die Interessen Chinas bei Friedensverhandlungen zur Beendigung des Japanisch-Chinesischen Krieges. Für Präsident William McKinley war er als Sonderbotschafter in Großbritannien und Russland tätig, dessen Nachfolger Theodore Roosevelt benannte ihn zum Leiter der US-Kommission bei Verhandlungen mit Kanada im Jahr 1903. Außerdem fungierte er 1907 bei der zweiten Haager Friedenskonferenz noch einmal als Vertreter Chinas.