Najviac sa však preslávil ako tréner. Je považovaný za otca totálneho futbalu. Štyrikrát viedol holandskú reprezentáciu. Prvý raz ju prevzal od Františka Fadrhonca pred Majstrovstvami sveta 1974 a na tomto turnaji skončilo Holandsko vo finále, pričom vyhrávalo 1-0 a Nemci sa za toho stavu lopty nedotkli. Nakoniec, po dvoch góloch Gerda Müllera prehralo Holandsko 2-1. Druhý raz ju viedol v rokoch 1984 až 1985 a s tímom výraznejší úspech nezaznamenal. Na pár mesiacov prenechal trénerstvo Holandska Leovi Beenhakkerovi, aby sa opäť stal trénerom Holandska. A v roku 1988 tím doviedol k zatiaľ poslednému víťazstvu na Majstrovstvách Európy. Z funkcie hlavného trénera odstúpil. Posledný raz viedol Holandsko v rokoch 1990 až 1992, keď po Majstrovstvách Európy 1992, kde dosiahol semifinále, skončil. Bol to jeho posledný futbalový angažmán.