Han etterfulgte i Nashville biskop Joseph Rademacher, som var blitt overført til bispedømmet Fort Wayne. Byrne mottok sin bispeinnvielse 25. juli 1894 av erkebiskop eldste, med biskopene John Watterson og Camillus Maes som medkonsekratorer, ved St. Joseph's Church i Nashville.