Den 24. november 1960 ble han pave Johannes XXIII utnevnt til første biskop av bispedømmet Long Xuyên i Sør-Vietnam. Han ble ordinert til biskop den 22. januar 1961 av erkebiskopen av Huê, Pierre Martin Ngô Đình Thục. Medkonsekratorer var den emeriterte apostoliske vikar av Saigon, Marie Pierre Jean Cassaigne M.E.P., og den emeriterte apostoliske vikar av Phát Diệm, Thaddée Le Huu Tu O.Cist.