Den 30. januar 1880 ble han av pave Leo XIII til ham koadjutorerkebiskop av Cincinnati. Den 4. juli 1183 døde John Baptist Purcell og ble etterfulgt av Elder som erkebiskop av Cincinnati. På den tiden var bispedømmet i økonomiske vanskeligheter. Han gjenåpnet Mount Saint Mary Seminary, som hadde vært stengt siden 1879, i 1887. Han døde av influensa i 1904 og ble gravlagt på St. Joseph Cemetery i Cincinnati.