在夺得世界杯冠军后，格拉博夫斯基、盖德·穆勒和沃尔夫冈·奥弗拉特均结束了各自的国家队生涯，年轻的保罗·布莱特纳也远走西班牙加盟皇家马德里。他们所留下的空隙，尤其是盖德·穆勒离开所带来的损失最为沉重。但作为国家队主教练的舍恩已无法再浪费时间，因为1976年欧洲足球锦标赛预选赛在1974年11月便已开始。在四分之一决赛中，西德队与西班牙相遇，他们先是在1976年4月24日于马德里进行的首回合较量中以1比1战平对手，次回合回到慕尼黑主场后又以2比0取得胜利。因此，卫冕冠军得以晋级在1976年6月于南斯拉夫所举办的