Matthäus startet sin fotballkarriere i Borussia Mönchengladbach som midtbanespiller. Han debuterte i Bundesliga i 1979, og ble raskt fast på laget. Han debuterte på det vesttyske landslaget i 1980, og var med i den vesttyske EM-troppen som ble europamestere samme år. Han deltok også i VM 1982 og EM 1984.