O primeiro grande torneio de Derwall como dirigente foi o Campeonato Europeu de Futebol de 1980 na Itália, e sua a sua direcção a RFA ganhou o campeonato de uma forma impressionante, ganhando quatro dos cinco jogos e acabando com Klaus Allofs como o maior marcador do torneio. A confiança era elevada quando partiram para a Copa do Mundo de 1982 em Espanha. Ouviram Derwall dizer antes do primeiro jogo contra a Seleção Argelina: "Se não batermos a Argélia apanho o próximo comboio para casa!" Embora as coisas tenham corrido mal ele não cumpriu a sua promessa. Depois de uma derrota inesperada face à Argélia no primeiro jogo, a selecção comandada por Derwall recuperou a sua compostura e progrediu para a final depois de alguns jogos duros, incluindo a memorável semifinal contra a Seleção Francesa de Futebol, onde a Alemanha perdeu vantagem de 1-3 a 3-3 acabando por vencer nos pênaltis. Na final, a equipa da RFA perdeu 3-1 para a Itália. As estrelas alemã foram Karl-Heinz Rummenigge e Paul Breitner.