Vào ngày 19 tháng 7 năm 1870, Đế chế Pháp tuyên chiến Vương quốc Phổ, mở ra cuộc Chiến tranh Pháp-Phổ. Napoléon III xua quân đánh Phổ, nhưng quân đội Phổ giành lại thế chủ động và truy kích đối phương đến miền Đông Nam Pháp. Vào ngày 22 tháng 8 năm 1870, Napoléon III cho thành lập Tiểu đoàn Lê dương số 5, bao gồm binh lính đến từngười Áo, Thụy Sĩ, Bỉ, Ý, Serbia, Tây Ban Nha, Ba Lan nhưng dĩ nhiên là không có người Đức. Trong Tiểu đoàn Lê dương này có sự tham gia của Hoàng tử Karageorgevitch (sau lên làm vua Peter I nước Serbia) dưới ẩn danh là Kara. Không những thế, hai Tiểu đoàn Lê dương khác gồm 2.000 lính người châu Phi đổ bộ lên Toulon ở miền Nam Pháp. Nhưng Lê dương Pháp liên tục bị quân Phổ đánh tan tác (chẳng hạn như cuộc triệt thoái của họ sau khi quân Phổ và quân Bayern chiếm được làng Arthenay vào giữa tháng 10 năm 1870, hoặc là thắng lợi lớn của quân Phổ trong trận Loigny vào ngày 2 tháng 12 năm 1870). Quân Phổ cũng giành chiến thắng như chẻ tre ngay từ đầu cuộc chiến, trong một loạt các trận đánh huy hoàng tại Weissenburg, Wörth, Spicheren, Metz và Sedan, buộc Napoléon III phải đầu hàng. Cho đến ngày 17 tháng 12 năm 1870, trong tổng số 3600 tên lính Lê dương Pháp, chỉ có 1.000 người còn sống sót. Các đơn vị Lê dương Pháp lại tham gia cuộc đàn áp Công xã Paris vào tháng 4 và tháng 5 năm 1871.