Long był osobistym przyjacielem przyszłego prezydenta F.D. Roosevelta. Poznał go, gdy Roosevelt piastował urząd "Zastępcy Sekretarza Floty" w administracji Wilsona. Long uczestniczył w kampanii prezydenckiej swojego znajomego w roku 1932. Roosevelt wynagrodził go za to stanowiskiem ambasadora USA we Włoszech. Podczas działalności dyplomatycznej Longa, krytykowano go za odradzanie prezydentowi wprowadzenia embarga dla Włoch na dostarczanie ropy naftowej w odpowiedzi na inwazję Mussoliniego na Etiopię. Long był członkiem misji nadzwyczajnych w Brazylii, Argentynie oraz w Urugwaju w roku 1938. Poza tym w roku 1939 pełnił funkcję doradcy w Departamencie Stanu. Powierzono mu zajęcie się kwestiami związanymi z zagrożeniem wojennym. Został również zastępcą sekretarza odpowiedzialnym za przydział wiz.