Постао је тренер Ајакса 1991. године. Под његовим водством клуб је освојио три првенства, УЕФА куп, Лигу шампиона. Ван Гал је прешао у Барселону 1997. и освојио две титуле шпанске лиге и један куп. Након неких неспоразума у Барселони, постављен је за селектора репрезентације Холандије, али није успео да тим одведе на Светско првенство 2002. Опет је постао тренер Барселоне, али је убрзо прешао у АЗ. Након што је освојио холандско првенство са АЗ-ом у сезони 2008/09, прешао је у Бајерн Минхен 1. јула 2009. У првој сезони, освојио је Бундеслигу и немачки куп, и довео клуб до финала Лиге шампиона.