Sau thắng lợi bước đầu nói trên, Guderian điều các Sư đoàn Thiết giáp số 1 và 2 tiến ra eo biển Măngsơ để hợp vây quân chủ lực Pháp-Anh trên mạn tây bắc. Tại thị trấn La Horgne vào ngày 15 tháng 5, trung đoàn Balck vấp phải sự kháng cự quyết liệt của một lữ đoàn lính thuộc địa Maroc-Algérie và bị kìm chân trong vòng nhiều tiếng đồng hồ. Quân Pháp bị đánh thiệt hại nặng nề, nhưng phải đến cuối chiều ngày hôm ấy thì La Horgne mới thất thủ về tay quân Đức. Tiếp theo sau chiến thắng La Horgne, Balck thúc quân tiến đánh Bouvellemont - một ngôi làng nằm ở phía tây Sedan - nhưng cán bộ, binh sĩ dưới quyền ông đã kiệt sức sau nhiều ngày mất ăn mất ngủ và từ chối tiếp tục tác chiến. Ông bèn chạy lên phía trước đoàn quân, lấy một khẩu súng trường chĩa về phía ngôi làng và tuyên bố hoặc là một mình ông sẽ tấn công đồi, hoặc là quân binh sẽ cùng ông chiến đấu. Thế là Trung đoàn Súng trường số 1 ồ ạt xung phong và theo chân thủ trưởng quét sạch quân Pháp ra khỏi làng Bouvellemont. Kế đến, Balck và Sư đoàn Thiết giáp số 1 tiếp tục tiến như vũ bão về hướng tây cho đến ngày 24 tháng 5, khi họ tiếp cận được eo biển và áp sát thành phố cảng Dunkerque, đẩy Lực lượng Viễn chinh Anh vào nguy cơ bị tiêu diệt. Nhưng vì một lý do không rõ ràng, Hitler phát lệnh cho Guderian tạm dừng hành quân trong vòng 48 giờ đồng hồ, tạo điều kiện cho phía Anh tổ chức di tản quân chủ lực của họ về chính quốc. Bốn ngày sau đó, Hitler chuyển giao nhiệm vụ đánh chiếm hải cảng Dunkerque cho một quân đoàn bộ binh và hạ lệnh cho Guderian đem quân thiết giáp đánh xuống biên giới Thụy Sĩ. Một lần nữa, tướng Guderian lấy trung đoàn Balck làm quân tiên phong cho quân đoàn của ông.