Đạo quan binh
Thành lập các đạo quan binh

Tuy nhiên, việc tổ chức các quân khu tỏ ra không hiệu quả, vì vậy ngày 6 tháng 8 năm 1891, Toàn quyền Đông Dương De Lanessan ra nghị định bãi bỏ các quân khu và thay vào đó bằng các đạo quan binh do một sĩ quan cao cấp người Pháp làm tư lệnh với đầy đủ quyền quân sự và dân sự. Về quyền quân sự, chỉ chịu sự chỉ đạo tối cao của Tổng tư lệnh lực lượng quân đội viễn chinh Pháp tại Đông Dương. Về quyền dân sự, ngang với Thống sứ Bắc Kỳ và chịu sự chỉ đạo tối cao của Toàn quyền Đông Dương. Mỗi Đạo quan binh lại được chia ra thành nhiều Tiểu quân khu. Đứng đầu Tiểu quân khu là một sĩ quan có quyền hành tương đương như Công sứ đầu tỉnh dân sự.
Ngày 20 tháng 8 năm 1891, Toàn quyền Đông Dương ra nghị định thành lập ở Bắc Kỳ 4 đạo quan binh:
Đạo quan binh I (Phả Lại), đạo lỵ là Phả Lại. Địa bàn gồm 3 tiểu quân khu: Phả Lại, Thái Nguyên, Móng Cái.
Đạo quan binh II (Lạng Sơn), đạo lỵ là Lạng Sơn với 3 tiểu quân khu: Lạng Sơn, Cao Bằng, Hà Giang.
Đạo quan binh III (Yên Bái), đạo lỵ đặt ở Yên Bái với 3 tiểu quân khu: Yên Bái, Lào Cai, Tuyên Quang.
Đạo quan binh IV (Sơn La), đạo lỵ đặt ở Sơn La, địa bàn gồm địa hạt Sơn La và một số tổng tách từ Hưng Hóa sang.
Một nghị định khác được ban hành cùng ngày đã quy định về việc thiết lập các Tiểu quân khu (cercle), quy định chức năng, quyền hạn và cơ cấu về tổ chức nhân sự, lực lượng của các Tiểu quân khu trong các Đạo quan binh. Chỉ huy Tiểu quân khu là một sĩ quan cao cấp, được trao các quyền hạn như Công sứ, phó Công sứ và trực tiếp quản lý hành chính Tiểu quân khu; Chỉ huy Tiểu quân khu do Toàn quyền Đông Dương bổ nhiệm theo đề nghị của Tướng Tổng chỉ huy tối cao quân đội Pháp ở Đông Dương.
Theo nghị định ban hành vào tháng 11/1891, các đạo quan binh phân chia như sau:
Đạo quan binh số 1 do trung tá I. M. Terrillon làm tư lệnh trưởng, phụ tá là tướng Voiron (đóng ở Bắc Ninh). Có 3 tiểu khu, mỗi tiểu khu gồm nhiều đồn: Móng Cái (Hoành Mô, Móng Cái, Đình Lập, Tiên Yên), Sept-Pagodes (Sept-Pagodes, Lâm, Bắc Lệ, Biển Đông, An Châu, Láng Trứa, Mai Xu, Đà Bắc, Đông Triều), Thái Nguyên (Thái Nguyên, Chợ Mới, Nhã Nam, Lược Hạ, Bố Hạ, Chợ Trang)
Đạo quan binh số 2 do A. Sèrviere làm tư lệnh trưởng, gồm các tiểu khu: Lạng Sơn (Lạng Sơn, Thất Khê, Na Chàm, Phố Bình Gia), Cao Bằng (Chợ Rã, Ngân Sơn, Nậm Nàng, Mò Xác, Sóc Giang, Phủ Trùng Khánh, Hạ Lang, Phục Hòa, Đông Khê, Trà Lĩnh, Nguyên Bình), Hà Giang (Hà Giang, Bắc Quang, Bắc Mê, Bảo Lạc, Bắc Kạn, Chiêm Hóa). Lữ đoàn 2 do Boilève chỉ huy.
Đạo quan binh số 3 do Beylié làm tư lệnh trưởng, gồm các tiểu khu: Yên Bái (Yên Bái, Trại Hút, Ngòi Tíe, Lục An Châu, Cấm Khê, Văn Bàn, Ngòi Lao, Yên Lương, Vĩnh Thùy), Lào Cai (Lào Cai, Bát Xát, Phong Thổ, Phố Lu, Bảo Hà), Tuyên Quang (Tuyên Quang, Phủ Đoan, Đông Châu)
Đạo quan binh số 4 do Fouquet làm tư lệnh trưởng, gồm tiểu khu: Vạn Bú (Pennequin chỉ huy), Lai Châu (Sơn La, Lai Châu, Điện Biên Phủ, Nghê Lo, Đại Lịch, Tú Lệ, Ca Vinh, Sai Luông, Văn Yên, Yên Lãng)
Đầu năm 1893, Pháp thực hiện thay đổi nhân sự lớn ở các đạo quan binh và chỉ huy các đồn. Mục đích chính là tập trung lực lượng cơ động để đàn áp khởi nghĩa Đề Thám và các cuộc khởi nghĩa lớn ở vùng đông bắc. Giữa năm 1893, phong trào đấu tranh của người Việt lên cao ở khu vực đông bắc, chính quyền thực dân quyết định cử tướng Voiron chỉ huy cả hai đạo quan binh 1 và 2. Lực lượng quân sự bản xứ (lính khố xanh) được Pháp sử dụng triệt để từ sau năm 1891, với nhiệm vụ chính đàn áp các cuộc khởi nghĩa, phục vụ ở các đạo quan binh, canh gác nhà tù ở phủ, huyện, châu... Tháng 5/1893, Pháp cử Thoreaux đem 10 trung đoàn tiến đánh khởi nghĩa ở Stungtreng và Khoong (Cambodge)
Cưối năm 1893, Pháp cũng thực hiện thay đổi nhân sự ở các đạo quan binh: Tháng 11/1893, Servière quản lý đạo quan binh số 2. Nhưng đến cuối tháng 11/1893, Pháp cử Galliéni quản lý đạo quan binh 1 và 2 thay cho Servière, thay vào đó Servière sang đạo quan binh số 4 thay cho Pennequin về Pháp. Tháng 4/1894, Chapelet thay Galliéni quản lý đạo quan binh số 1 (đến tháng 11 thì Dumont sang thay). Tại đạo quan binh số 1, Galliéni thảo luận kế hoạch đàn áp khởi nghĩa Yên Thế và các cuộc khởi nghĩa ở khu vực Lạng Sơn - Móng Cái. Ở đạo quan binh số 2, Galliéni cùng Servière hành quân đánh quân khởi nghĩa Hoàng Đại Nhân và các cuộc khởi nghĩa ở dọc biên giới. Ở Tuyên Quang, quân Pháp hành quân đàn áp khởi nghĩa Hoàng Thân Lợi, Nguyễn Triệu Trọng, Hoàng Man, Hoàng Cầu, Hà Cốc Thượng (bản gốc là A-Coc-Thuong). Ở đạo quan binh số 4, theo lệnh của Servière (tư lệnh đạo quan binh), chỉ huy tiểu khu Lào Cai Gouttenegre kéo quân đánh khởi nghĩa Hoàng Triệu Trọng, Hoàng Man, Hoàng Cầu... Marcajour (Nhật Sơn) và Diguet (Vạn Bú) đánh quân khởi nghĩa Hoàng Man để mở đường giao thông. Giữa năm 1894, các đạo quân của Boulloche (Phủ Lạng Thương), Muselier (công sứ Bắc Ninh), tiến đánh khởi nghĩa Yên Thế.
Đầu năm 1894, Rousseau ra làm toàn quyền Đông Dương. Các chỉ huy đạo quan binh không thay đổi (Chaumont chỉ huy đạo quan binh số 1). Ở Cao Bằng, Pháp lập các đồn binh đánh quân khởi nghĩa Ti-Tien-Duc, Cottes (Bảo-Kêm) mở chiến dịch đánh A-Coc-Thuong. Quân Pháp ở đạo quan binh 2 và 3 tiếp tục đàn áp các cuộc khởi nghĩa còn sót lại.
Từ đầu năm 1896, Rondony lên làm chỉ huy ở Yên Thế, cùng Galliéni tiếp tục tấn công nghĩa quân Đề Thám. Ở đạo quan binh số 2, Duchemin lệnh cho quân Pháp tiến đánh ổ đề kháng của Lương Tam Kỳ. Ở đạo quan binh số 3 Hà Giang, tướng Brenot (Bắc Quang) cùng Briquelot đem quân đánh nghĩa quân Lê Chí Tuấn và Mạc Quế An, Thương Văn Thọ, A-Cốc-Thượng; Vallière đánh nghĩa quân Lương Văn Sơn ở Chợ Chu. Đồng thời, chỉ huy tiểu khu Cao Bằng là Audeoud vây đánh nghĩa quân ở khu vực thượng sông Gâm, Cao Bằng. Đầu năm 1896, Nouvel (Hà Giang) tiến đánh nghĩa quân Lê Chí Tuấn, Ô-Xà-Tổng, Bàn Văn Tôn... Ở đạo quan binh số 4, cuối năm 1896, Pháp tập trung lực lượng đánh nghĩa quân Hoàng Man (Lào Cai).
Tháng 9/1896, De Badens chỉ huy đạo quan binh số 3, đồng thời thay Chaumont chỉ huy khu quân sự Bắc Ninh. Tháng 7/1897, Badens thay luôn Pennequin chỉ huy đạo quan binh số 4. Tháng 10/1897, Chevallier làm tổng chỉ huy quân Pháp ở Bắc Kỳ, Archinard làm tổng chỉ huy quân Pháp ở Nam Kỳ. Tháng 2/1899, Pháp chia thành 3 lữ đoàn: lữ đoàn 1 Hà Nội của Frey, lữ đoàn 2 Hải Phòng của Dumas, lữ đoàn 3 Sài Gòn của Archinard; nhưng đến tháng 3/1899, Frey thay Archinard ở lữ đoàn 3, Chaumont về lữ đoàn 1. Từ năm 1897, Pháp tập trung lực lượng đánh Đề Thám.