In 1954 Harlan was appointed to the United States Court of Appeals for the Second Circuit, and a year later president Dwight Eisenhower nominated Harlan to the United States Supreme Court following the death of Justice Robert H. Jackson.
В 1954 году Харлан назначен в Апелляционный суд второго округа США, а годом позже президент Дуайт Эйзенхауэр выдвинул его кандидатуру на пост судьи Верховного суда США после смерти судьи Роберта Джексона.