Vogts spilte for den lokale klubben VfR Büttgen fra han var sju år gammel til 1965, da han gikk til Borussia Mönchengladbach. Den hardtarbeidende høyrebacken fikk tilnavnet «Der Terrier» (terrieren). Han var en av hovedmennene bak Borussias suksesser i 1970-årene, da klubben vant Bundesliga fem ganger, den tyske cupen én gang og UEFA-cupen to ganger. Vogts ble værende i Borussia Mönchengladbach resten av karrieren som spiller. Han spilte også på som vant VM i fotball 1974.