一个并不具有说服力的表现进入第二阶段分组赛。而其后在对阵意大利的比赛中，他们迎来了第三场0比0。舍恩团队的表现因为缺乏自信而起伏不定，并且事实证明这支球队已经丧失了鲜明的个性。在以2比2战平荷兰后，西德队在本届杯赛的最后一场比赛是1978年6月21日在科尔多瓦对阵奥地利，若取胜则仍可参加季军争夺赛。但西德阵中躁动不安的情绪再次在这场比赛中展现出来，奥地利凭借汉斯·科兰克尔在第88分钟射入的制胜球以3比2结束比赛。经过在阿根廷乏善可陈的表现后，德国足球的黄金时代随之宣告结束，舍恩在这届杯赛完结前正式提出辞任国