Den 29. juli 1853 utnevnte pave Pius IX ham til første biskop av det samme dag opprettede bispedømme Burlington i Vermont. Den apostoliske nuntius til Brasil og pavelige spesialutsendte til USA, erkebiskop Gaetano Bedini, bispeviet ham den 30. oktober samme år i St. Patrick's Cathedral /Mott Street) i New York; medkonsekrerende var biskopen av Albany, John McCloskey, og biskopen av Cleveland, Louis Amadeus Rappe.