In 1926 Cole announced his intention to retire from Columbia in September of that year. However in late May, following surgery for an infected tooth, he died of heart failure at his home in New York City. Subsequently, it became known that he had been estranged from his family since 1908, and for the last two years he had lived in the Bronx under the assumed name of Edward Mitchell and pretended to be an "ordinary bookkeeper".
Sa 1926 koul inihayag ng kanyang intensyon na-retire mula sa Columbia sa Setyembre ng taon na. Subalit sa huli ng Mayo, mga sumusunod na mga pag-oopera sa isang nahawaang ngipin, siya namatay ng puso sa kanyang tahanan sa New York City. Sa dakong huli, ito ay naging kilala na niya ay hiwalay mula sa kanyang pamilya mula noong 1908, at para sa huling dalawang taon niya nanirahan sa Perestrojka sa ilalim ng pangalan ng assumed Edward Mitchell at nagkunwari na maging isang "karaniwang tenedor de libro".