I na následujícím Mistrovství Evropy 1984 patřila SRN k největším favoritům turnaje. Západní Německo však zahájilo bezbrankovou remízou s Portugalskem a své naděje na postup zvýšilo výhrou nad Rumuny 2:1, jenže pak dostali jediný osudný gól od Španělů v 90. minutě zápasu a jeli domů. Fanoušci v SRN se obrátili proti trenéru Derwallovi. Na nátlak veřejnosti Derwall z funkce trenéra reprezentace odstoupil a uvolnil místo Franzi Beckenbauerovi.