Als er in Frankreich ankam, stellte er fest, dass die Entente die Absicht hatte, die amerikanischen Soldaten sofort an die Front zu beordern. Pershing stimmte dem nicht zu, sondern wollte zuerst eine gut ausgebildete und eigenständige Streitkraft aufstellen. Mit anfangs 500.000 Soldaten begann er im Jahre 1918 die ersten größeren Operationen auf den westeuropäischen Schlachtfeldern. Die von ihm geführten Offensiven bei Saint-Mihiel und in den Argonnen halfen mit, die Deutschen nach ihren Vorstößen im Frühjahr und im Sommer wieder zurückzuwerfen. In die Kritik geriet Pershing kurz nach dem Krieg, weil er am letzten Tag des Krieges, obwohl der Waffenstillstand für den 11. November 1918 um 11 Uhr beschlossen war, einen vor dem Waffenstillstand geplanten Angriff auf die deutschen Stellungen noch zugelassen hatte. Zu gewinnen war nichts mehr und die eroberten Gebiete wurden später an die Deutschen zurückgegeben. Er musste sich dafür mit anderen hochrangigen Offizieren vor einer Untersuchungskommission verantworten. Während der Befragung bemerkte ein Offizier: Da sich allerdings in der Zeit ein gewisser Heldenmythos um Pershing bildete, hatte diese Untersuchung letztlich keine Konsequenzen für ihn. Der General war bis 1919 in Trier stationiert, bis französische Truppen die amerikanischen Truppen ablösten.