לאחר שובו לעיסוקו בעריכת דין הוצעה לו ב-1896 משרה בקבינט של ארצות הברית על ידי ידידו, הנשיא ויליאם מקינלי. הוא בחר במשרת מזכיר הצי, אף על פי שלא היה לו ידע בסיסי בימאות. הוא התעמת עם תת-המזכיר, תאודור רוזוולט, בנוגע להרחבת הצי עם פרוץ מלחמת ארצות הברית-ספרד ב-1898. עם תחיל כהונתו של רוזוולט כנשיא, לאחר רצח מקינלי, הוא התפטר מתפקידו וחידש את עיסוקו בעריכת דין. לונג נפטר ב-1915. פרסומיו כללו יומן שנכתב במשך כל חייו, ספר על תולדות מלחמת ארצות הברית-ספרד ותרגום של אינאיס מאת ורגיליוס.