Bất chấp việc đàm phán đã ngã ngũ, lực lượng quân sự Nhật vẫn tiến hành khởi sự. 9 giờ tối ngày 22 tháng 9, sư đoàn 5 tinh nhuệ trực thuộc quân đoàn 21 Nhật tràn qua biên giới từ Long Châu vào Việt Nam qua ngả Đồng Đăng và giao tranh quyết liệt với quân Pháp tại đây. Giao tranh lan ra các đồn binh Pháp dọc biên giới. Xe bọc thép Nhật uy hiếp Lạng Sơn, buộc quân Pháp tại đây giương cờ đầu hàng ngày 22 tháng 9. Tới lúc này các đơn vị quân thuộc địa bắt đầu hoảng loạn rút chạy, hàng trăm lính tập rã ngũ, vứt bỏ vũ khí lại trên đường chạy về Hà Nội. Cùng thời gian, máy bay thuộc hải quân Nhật cất cánh từ tàu sân bay trên vịnh Bắc Bộ bắn phá các mục tiêu Pháp trên bộ ngày 24 tháng 9. Hải quân Nhật tiến hành đổ bộ 4,500 lính bộ binh và hơn một chục xe tăng ở phía nam cảng Hải Phòng, tiến hành tước khí giới quân Pháp tại Đồ Sơn. Tới tối ngày 26, quân Nhật đã chiếm sân bay Gia Lâm, trạm xe lửa từ biên giới Vân Nam vào Lào Cai và Phủ Lạng Thương trên tuyến đường sắt từ Hà Nội-Lạng Sơn. 900 quân Nhật chiếm cảng Hải Phòng, 600 quân khác đóng tại Hà Nội trước sự bất lực của Pháp.