至1956年短暂执教萨尔足球代表队的主教练，舍恩开始将西德队打造为世界足坛一支稳定的劲旅。他率队进入了1966年世界杯决赛，尽管在1968年、队史首次征战欧洲足球锦标赛的外围赛时铩羽而归，但他在1970年世界杯再获季军。随后，球队迎来最大的成就——在1972年赢得首个欧洲冠军；紧接着在1974年世界杯，德国作为东道主于决赛击败荷兰后，第二度加冕世界冠军。舍恩也因此成为全球首个同时赢得世界杯及欧锦赛冠军的主教练，这一成就直至28年后才由西班牙的-{zh-hans:比森特·德尔·博斯克;zh-hk:维辛迪·迪保