Im Krieg gegen Frankreich führte er seit dem 18. Juli 1870 das VIII. Armee-Korps als Kommandierender General. Bereits am 26. Juli wurde er zum General der Infanterie befördert. Er nahm an den Schlachten von Spichern, Colombey und Gravelotte und danach an der Einschließung von Metz teil. Nach der Kapitulation von Metz ging er unter dem Oberbefehl Edwin von Manteuffels in den Norden Frankreichs und schlug die Schlachten bei Amiens, an der Hallue sowie bei Bapaume. Nachdem Manteuffel zur Führung der Südarmee berufen worden war, übernahm Goeben am 9. Januar 1871 den Oberbefehl über die 1. Armee. Er schlug am 19. Januar 1871 die französische Nordarmee unter Faidherbe bei Saint-Quentin.