Magath také úspěšně reprezentoval reprezentaci Západního Německa. Debutoval 30. dubna 1977 v přátelském zápase s Jugoslávií (2:1). Byl členem vítězného celku Mistrovství Evropy 1980. Zahrál si na dvou světových šampionátech (1982 a 1986). V obou ročnících se svým týmem vybojoval druhé místo. Celkem za svého působení v reprezentaci odehrál 43 zápasů a vstřelil v nich 3 branky.