Phaolô Giuse Phạm Đình Tụng
Giám mục Bắc Ninh

Ngày 5 tháng 4 năm 1963, Tòa Thánh bổ nhiệm linh mục Phaolô Giuse Phạm Đình Tụng làm Giám mục chính tòa Giáo phận Bắc Ninh. Lễ tấn phong cho vị giám mục Tân cử được tổ chức tại tại Nhà thờ chính tòa Hà Nội ngày 15 tháng 8 cùng năm, với phần nghi thức chính yếu được cử hành bởi Chủ phong là Tổng giám mục Tiên khởi Tổng giáo phận Hà Nội Giuse Maria Trịnh Như Khuê, hai linh mục phụ phong là Bich và Cung. Tân giám mục chọn cho mình khẩu hiệu Tôi tin vào tình yêu Thiên Chúa hoặc Chúng con tin ở Tình Yêu Chúa.
Theo thông tin từ Giáo phận Bắc Ninh, tân giám mục Tụng được tấn phong tại Tòa Tổng giám mục Hà Nội. Thông tin lan truyền chậm, [trong ngày nhận tòa], chỉ có một số giáo dân từ các giáo xứ xung quanh Tòa giám mục biết tin. Linh mục Quảng (Đa Minh Đinh Huy Quảng), chính xứ Bắc Ninh là linh mục duy nhất đón tân giám mục. Tòa giám mục Bắc Ninh có cử một ô tô do giáo dân làm đại diện đón tân giám mục, nhưng hai đoàn xe Tòa giám mục Hà Nội và Bắc Ninh không gặp nhau, xe Bắc Ninh đi vào Hà Nội, trong khi xe Hà Nội tiễn tân giám mục đến cầu Long Biên, ranh giới hai giáo phận. Tân giám mục Tụng đã thực hiện nghi thức hôn đất. Tân giám mục được đón tiếp tại cổng tòa giám mục, nơi linh mục Quảng, giáo dân chào mừng tân chức. Chính quyền địa phương đã tỏ ra tôn trọng buổi tiếp đón này. Tân giám mục nhận ngai tòa trong cùng ngày, cùng chia sẻ quyết định cá nhân về việc nhận giáo phận ngày lễ Đức Mẹ Mân Côi. Tân giám mục cũng đã gửi Thư Chung đầu tiên đến giáo hữu vào chính ngày lễ Đức Mẹ Mân Côi, ngày 7 tháng 10 năm 1963.
Giáo phận Bắc Ninh là một giáo phận trải dài từ Đồng bằng Sông Hồng đến giáp biên giới Việt Trung gồm "năm tỉnh trực thuộc và 7 tỉnh liên hệ". Số linh mục già yếu ở lại giáo phận sau cuộc di cư 1954 ít ỏi, "trên đầu các ngón tay"! Tân giám mục Phạm Đình Tụng chính thức về nhận giáo phận ngày lễ Đức Mẹ Mân Côi 5 tháng 10 năm 1963. Tình trạng chung của các giáo phận ở miền Bắc Việt Nam sau năm 1954 với tình trạng di cư thì nhân sự còn lại rất ít, các hoạt động tôn giáo bị kiểm soát chặt chẽ. Vì vậy, các hoạt động Công giáo tại các giáo phận này chỉ còn là những hoạt động tối thiểu: mở cửa nhà thờ để đọc kinh, không còn linh mục và các giáo lý viên để đào tạo tín hữu, cùng việc giám mục không được cho phép đi lại trong giáo phận.
Thời giám mục Phạm Đình Tụng nhận giáo phận Bắc Ninh, tình hình tôn giáo rất khó khăn. Giai đoạn này, số lượng giáo dân tăng nhiều nhưng chỉ có khoảng 6 linh mục, trong đó có 4 linh mục tuổi đã cao. Vì vậy, sinh hoạt tôn giáo trong giáo phận chỉ có việc tu học lén lút, vốn nếu để lộ sẽ dễ dàng vào tù. Các cộng đoàn cơ bản do giáo dân tự điều khiển, các xứ họ gặp nhiều khó khăn. Ngay trong năm đầu tiên quản lý giáo phận, Giám mục Phạm Đình Tụng đã sáng lập Tu Hội Đức Mẹ Hiệp Nhất, ban đầu gồm 20 thành viên. Nay tổ chức này có tên Hiệp hội Đức Mẹ Hiệp Nhất, là Hội Dòng thuộc quyền giáo phận với số thành viên trên 150 người.
Giám mục Phạm Đình Tụng ở tại Tòa giám mục Bắc Ninh, xây dựng khoảng năm 1950 dưới thời giám mục Đa Minh Hoàng Văn Đoàn. Tại nhà nguyện trong Tòa giám mục, ông đã thực hiện nhiều nghi lễ Công giáo như đọc kinh Phụng vụ, dâng lễ và chầu Mình Thánh một mình. Căn phòng này cũng nổi tiếng vì nơi đây, giám mục Tụng đã lén truyền chức cho 2 giám mục, 12 linh mục và 4 phó tế. Nhà nguyện này được gọi là "phòng U8" vì có diện tích dưới 8 mét vuông. Tòa giám mục này hiện nay dùng làm Nhà Truyền thống của giáo phận Bắc Ninh, với tên gọi mới là Nhà Thánh Stêphanô Nguyễn Văn Vinh.
Trong thời kỳ khó khăn, Giám mục Phạm Đình Tụng không thể thành lập chủng viện đào tạo chủng sinh, chính vì vậy, ông quyết định đào tạo chủng sinh bằng phương pháp hàm thụ. Việc đào tạo những linh mục này thực hiện cách bí mật: các chủng sinh đến và rời Tòa giám mục cách bí mật, sau một khoảng thời gian, giám mục Tụng dạy học bài mới và trả bài các chủng sinh. Ngoài ra, ông còn gửi bài về cho chủng sinh học tại nhà, xen lẫn với ít lần họ gặp trực tiếp. Giám mục Phạm Đình Tụng làm thủ tục xin phép truyền chức linh mục cho mấy ứng viên linh mục, nhưng chính quyền không cho phép và còn gây khó khăn cho các ứng viên này. Vì vậy, giám mục Tụng quyết định phong chức linh mục cách bí mật. Ngày 29 tháng 6 năm 1964, lúc nửa đêm, ông cử hành truyền chức cho tân linh mục Giuse Phạm Sĩ An. Buổi lễ diễn ra cách bí mật, giám mục Tụng có khi phải ra giữ chặt cửa khi có động. Lần phong chức linh mục thứ hai là vào đêm ngày 16 tháng 9 năm 1974, giám mục Tụng truyền chức linh mục bí mật cho 7 phó tế. Buổi lễ diễn ra trong hoàn cảnh giám mục Tụng bị đột quỵ vào đầu tháng 9 và chưa hồi phục hoàn toàn, những tin đồn đoán về việc chính quyền Cộng sản nắm quyền sẽ gây khó khăn cho đạo Công giáo. Chính vì vậy, sau khi xét hỏi từng tân linh mục về việc chẳng may bị bắt giữ vì được truyền chức cách lén lút, giám mục Tụng tiến hành truyền chức cho bảy vị này trong một buổi lễ kéo dài hai giờ đồng hồ.
Sau thống nhất đất nước ngày 30 tháng 4 năm 1975, vấn đề lo ngại đạo Công giáo sẽ gặp nhiều khó khăn, nên các giáo phận Công giáo tại Việt Nam đều củng cố nhân sự. Tại giáo phận Bắc Ninh, giám mục Tụng hỏi ý kiến Tổng giám mục Giuse Maria Trịnh Như Khuê và một số linh mục về việc tấn phong tân giám mục. Với lý do sức khỏe không tốt, giám mục Tụng quyết định tấn phong tân giám mục Đa Minh Đinh Huy Quảng. Tham gia buổi lễ vào ngày 4 tháng 5 năm 1975, ngoài vị giám mục chủ phong và thụ phong còn có linh mục Giuse Trần Đăng Can. Ngay ngày hôm sau, tân giám mục Quảng bị đưa đi cưỡng chế. Lễ tấn phong của giám mục giáo phận Lạng Sơn và Cao Bằng Vinh Sơn Phạm Văn Dụ đêm ngày 1 tháng 5 năm 1979 cũng có cùng một kịch bản, ngoài hai giám mục phong chức và thụ chức còn có linh mục Can. Bối cảnh diễn ra việc phong chức là giám mục tân cử Dụ (được Tòa Thánh bổ nhiệm năm 1960) đến Bắc Ninh di tản vì chiến tranh Biên giới Việt-Trung. Cả hai buổi lễ này đều được tổ chức tại nhà nguyện U8.
Vì địa bàn giáo phận rộng lớn, số linh mục lại quá ít, Giám mục Phạm Đình Tụng cho xây dựng và huấn luyện thành phần tông đồ giáo dân. Ban hành giáo trở nên những cộng sự viên cho việc mục vụ: chủ sự suy tôn Lời Chúa, rửa tội cho trẻ sơ sinh, giảng dạy giáo lý, quản lý đất đai, tài sản của giáo xứ. Cũng trong thời gian này ông cho hành lập các đoàn thể Công giáo như: Huynh đoàn Đa Minh giáo dân, Hội các bà mẹ Công giáo, Ca đoàn, Giới trẻ, Giáo lý viên, Thiếu nhi Thánh Thể,... Ngoài ra, giám mục Tụng cũng cho in Kinh bản giáo phận, cổ vũ lòng tôn sùng Thánh Tâm Chúa. Năm 1983, ông tổ chức đại lễ mừng 100 năm thành lập Giáo phận Bắc Ninh.
Hơn 20 năm giám mục Phạm Đình Tụng không được ra khỏi Tòa Giám mục để thi hành mục vụ. Vì thế, Tòa giám mục Bắc Ninh đã thật sự trở thành Nhà Chung của giáo phận. Hàng ngày, giám mục Tụng cùng ăn, cùng đọc kinh chung với giáo dân. Trong thời kỳ khó khăn mà nhà ăn Tòa Giám mục thường xuyên đông vui, đầm ấm. Những ngày lễ trọng, ông kêu gọi và tổ chức cho giáo dân "góp gạo thổi cơm chung". Nhân lễ mừng ngân khánh giám mục, hơn 30.000 tín hữu tới chúc mừng Phạm Đình Tụng vào ngày 15 tháng 8 năm 1988. Sức khỏe hao mòn, giám mục Phạm Đình Tụng lo liệu và thỉnh cầu Tòa Thánh bổ nhiệm giám mục phó. Thỉnh nguyện được chuẩn thuận và bổ nhiệm giám mục Giuse Maria Nguyễn Quang Tuyến, tấn phong tháng 1 năm 1989.
Năm 1992, giáo phận Bắc Ninh tổ chức kỉ niệm Bách Chu Niên Nhà thờ chính tòa, Phạm Đình Tụng khánh thành Tòa giám mục mới và mở năm Toàn Xá trong giáo phận. Sau khi xã hội cởi mở, Phạm Đình Tụng thực hiện thăm mục vụ nhiều giáo xứ trong giáo phận. Trong thời kỳ giám mục Bắc Ninh, giám mục Tụng đã xây dựng Bắc Ninh trở thành một giáo phận ấm cúng, tình cảm và đời sống đạo "có lòng tin mến" vững chắc. Linh mục Phạm Sỹ An viết trong Hồi Ký Về Vị Mục Tử Nhân Lành cho rằng trong suốt 31 năm làm giám mục Bắc Ninh, ông chỉ đi thăm viếng mục vụ được hai địa điểm là Đồng Chương ở Tuyên Quang và Vĩnh Phú.
Trong lễ giỗ 100 ngày của cố Hồng y Phạm Đình Tụng, Giám mục Phụ tá Tổng giáo phận Thành phố Hồ Chí Minh Phêrô Nguyễn Văn Khảm nhận xét, tưởng nhớ về thời kì hồng y Tụng đảm nhận chức giám mục Bắc Ninh: