Matthäus startet sin fotballkarriere i Borussia Mönchengladbach som midtbanespiller. Han debuterte i Bundesliga i 1979, og ble raskt fast på laget. Han debuterte på det vesttyske landslaget i 1980, og var med i den vesttyske EM-troppen som ble europamestere samme år. Han deltok også i VM 1982, hvor Vest-Tyskland ble tapende finalist, og EM 1984, hvor vesttyskerne røk ut i det innledende gruppespillet.