Futbolu bıraktıktan sonra Alman Federasyonu Antrenörleri arasında yer aldı. Franz Beckenbauer'in 1990'da ayrılmasından sonra millî takım teknik direktörlüğüne getirildi. 1990-1998 arasında çalıştırdığı Alman millî takımındaki en büyük başarısı 1996 Avrupa Futbol Şampiyonası'nda kazanılan şampiyonluk oldu. 1998 FIFA Dünya Kupası'nda Almanya'nın çeyrek finalde Hırvatistan karşısında aldığı 3-0'lık yenilgi, millî takımdan ayrılmasına neden oldu. Millî takımdan ayrıldıktan sonra Bayer 04 Leverkusen, Kuveyt, İskoçya ve Nijerya millî takımlarını çalıştıran Vogts'un kayda değer bir başarısı olmadı. Mart 2008'de Azerbaycan millî futbol takımı başına getirildi.