Etter at Truman ble utnevnt til ny president utnevnte han Byrnes til utenriksminister den 3. juli 1945. Truman hadde forståelse for at Byrnes var skuffet over at han selv hadde vært så nære presidentposten, og Truman ga uttrykk for at det var grunnen til at han gav Byrnes kabinettposten som utenriksminister. Andre grunner til at Byrnes ble utnevnt kan ha vært hans fremtredende plass i innenrikspolitikken under flere år, samt at han hadde deltatt under Jaltakonferansen. Byrnes deltok for øvrig også ved Potsdamkonferansen, og spilte en viktig rolle i avgjørelsen om å ta i bruk atombomber mot Japan mot slutten av andre verdenskrig.