Depois que McKinley foi assassinado em Setembro de 1901, Long mudou de ideia e apresentou sua renúncia ao Presidente Roosevelt no dia 1º de Maio de 1902. Os motivos exatos para isso não são claros, mas vários fatores provavelmente contribuíram. Primeiro, Roosevelt tinha uma forte relação com o rival político de Long, era conhecido por discordar de Long em assuntos navais, e não era receptivo à sua presença na Casa Branca. Segundo, uma investigação sobre as ações do Almirante Winfield Scott Schley na Batalha de Santiago de Cuba em Julho de 1898 resultou em uma quantidade significativa de críticas a atuação de Long na guerra. Terceiro, uma de suas filhas morreu em Outubro de 1901, menos de um mês após o assassinato de McKinley. Essas questões levaram Long a uma depressão, e a situação foi agravada ainda mais quando Roosevelt brigou com ele no início da guerra e, em seguida, fez substituições mediáticas de algumas de suas decisões. O historiador Wendell Garrett observa que Roosevelt teve um grande interesse pessoal na Marinha e teve dificuldade em trabalhar com os secretários posteriores.