Edzői pályafutását az osztrák másodosztályú Lieferingnél kezdte, amely a FC Red Bull Salzburg második csapataként működik. Ez idő tájt Ralf Rangnick (aki még a Hoffenheimnél volt Lőw edzője) irányította a salzburgiakat, és 2014-ben felkérte a segítőjének. Lőw a 2014–2015-ös idényben Osztrák Bundesligát és kupát nyert a Salzburggal, majd 2015 nyarán a RB Leipzighez is követte Ragnickot. A 2016–17-es idényt már a Bundesligában kezdték, de Lőwre az új edző Ralph Hasenhüttl is számított a stábjában. 2018 májusában felvetődött, hogy Hasenhüttl távozása esetén Lőw veheti át a Salzburg irányítását. 2018. július 11-én a Paris Saint-Germain csapatához szerződött, ahol Thomas Tuchel munkáját segítette másodedzőként. Két és fél évig, 2020 decemberéig tartozott a párizsi csapat kötelékébe, amellyel hat trófeát nyert és bejutott a Bajnokok Ligája 2020-as döntőjébe. Miután Tuchelt menesztették a csapattól, Lőw is távozott a PSG-től. 2021. január 26-án hivatalossá vált, hogy ő is csatlakozott a német mester szakmai stábjához az angol Chelsea-nél. A 2020–2021-es szezon végén a londoni csapat a döntőben a Manchester City legyőzve megnyerte a Bajnokok Ligáját, Lőw pedig a 8. magyar lett aki játékosként vagy edzőként az élen végzett a legrangosabb európai kupasorozatban.