Etter å ha deltatt i andre verdenskrig blant annet som stabsoffiser på Kina-Burma-avsnittet, arbeidet han en kort periode i krigsdepartementet i Washington, D.C.. I 1945 fikk han en stilling i utenriksdepartementet. Samme år foreslo han at Korea skulle deles i en amerikansk og en sovjetisk innflytelsessfære. I 1950–1952 hadde han ansvaret for Fjerne østen-spørsmål, og han spilte en viktig rolle for USAs beslutning om å gripe inn i Koreakrigen. Rusks korrespondanse med Sør-Koreas ambassadør i USA, You Chan Yang, fra denne tiden er berømt.