1964-ben a FC Vilshofen csapatában kezdte a labdarúgást. 1975-ben igazolta le a Bayern München, ahol 1976-ban mutatkozott be az első csapatban. 1976 és 1991 között hét alkalommal lett bajnok és háromszor nyert nyugatnémet kupát az együttessel. Kétszer volt tagja a bajnokcsapatok Európa-kupája döntőjében szereplő csapatnak. 1981–82-ben az Aston Villa ellen 1–0-ra, 1986–87-ben az FC Porto ellen 2–1-re kapott ki a bajor csapat. Utóbbi döntőn Augenthaler nem lépett a pályára. 1984-től visszavonulásáig a Bayern csapatkapitánya volt. Összesen 404 Bundesliga mérkőzésen 52 gólt szerzett és 89 európai kupa mérkőzésen lépett a pályára. a Bayern színeiben. 2005-ben a Bayern München történetének legjobb tizenegyébe választották be a szurkolók.