Après la chute de Metz, Goltz reçoit le commandement d'unités supplémentaires, dont deux régiments de cavalerie. Cette unité, désormais également appelé "détachement Goltz" a combat au sein du sous les ordres d'August von Werder contre l'armée des Vosges sous les ordres de Giuseppe Garibaldi. Sans succès, il assiège la citadelle de Langres, où se trouvent 3 000 soldats. En janvier 1871, il en est retiré pour soutenir von Werder contre l'Armée de l'Est sous les ordres de Charles Denis Bourbaki. Il participe à la bataille de Villersexel et à la bataille d'Héricourt. Cette bataille est suivie par la poursuite très réussie des troupes de Bourbaki, qui se termine par le passage et l'internement de 87 000 hommes en Suisse neutre. Le nouveau siège prévu de Langres n'a pas lieu en raison de l'armistice.