Jerman Barat gagal mempertahankan dua kejuaraan besar. Pertama mereka kalah kepada Czechoslovakia pada perlawanan akhir Euro 76 delam penentuan penalti 5-3, selepas perlawanan berakhir dengan keputusan 2-2. Selepas itu, pada Piala Dunia 1978, mereka disingkirkan pada pusingan kedua selepas kalah 3-2 kepada Austria. Schön bersara sebagai jurulatih selepas itu, dan tempat itu diisi oleh pembantunya, Jupp Derwall.