Amerika Birleşik Devletleri Berlin Büyükelçiliği'nde bir süre ataşelik yaptı ve ataşeliğini yaptığı sırada Mainz'de casusluk şüphesiyle kısa süreliğine tutuklandı. 1919 Paris Barış Konferansı'ndaki ABD delegasyonunun bir parçasıydı ve burada Milletler Cemiyeti Sözleşmesi'nin hazırlanmasına yardım etti. Daha sonra, savaş sonrası Avrupa'ya açlıktan kurtulması konusunda yardımcı olunan bir programda Herbert Hoover'ın yardımcısıydı. Hoover, Başkan Harding döneminde Ticaret Bakanı olduğunda Herter, Hoover için çalışmaya devam etti. Herter, ayrıca ABD Dış İlişkiler Konseyi'nin kurulması kararlaştırılan 1919'da ki toplantıya katıldı.