El 11 de octubre de 2013 su equipo logró clasificar a la Copa Mundial de Fútbol de 2014, cuando le ganó 3:0 a Irlanda en el Estadio Rhein Energie. Después de esto, Löw renovó su contrato con la selección alemana hasta el 31 de julio de 2016. En el primer partido los alemanes derrotaron 4:0 a Portugal con un planteamiento táctico defensivo que resultó exitoso. El siguiente encuentro, en el que se enfrentaron a Ghana, se les tornó más complejo y acabó empatado a dos goles. En el tercer partido derrotaron por la mínima diferencia a la selección estadounidense dirigida por Jürgen Klinsmann. En los octavos de final le ganaron a Argelia en tiempo añadido y en los cuartos de final derrotaron por 1:0 a Francia. En el partido de semifinal, denominado más tarde como «Mineirazo», los alemanes golearon 7:1 a la selección anfitriona, Brasil. Finalmente, el 13 de julio se consagraron campeones del mundo tras derrotar 1:0 en tiempo añadido a Argentina. Löw formó parte del once ideal del torneo como director técnico y fue elegido por la FIFA como mejor entrenador del año. Asimismo, ese año la IFFHS le otorgó el galardón al mejor seleccionador del mundo. Después de la Copa del Mundo, Hans-Dieter Flick fue nombrado director deportivo en la Asociación Alemana de Fútbol, por lo que Löw convirtió a Thomas Schneider, exfutbolista al que había dirigido en el VfB Stuttgart, en su asistente.