После убийства Мак-Кинли в 1901 году его преемник, Теодор Рузвельт, оставил Гейджа во главе министерства финансов, чтобы не допустить паники на финансовых рынках, но уже 31 января 1902 года освободил его с должности, назначив министром Лесли Мортимера Шоу. В том же году Гейдж возглавил Американскую трастовую компанию в Нью-Йорке, а в 1907 году вышел на пенсию и переехал в Калифорнию. Лайман Гейдж умер в Сан-Диего 26 января 1926 года.