Luxemburgo foi então colocado sob administração do exército alemão, mas logo depois um governo civil assumiu até que o país foi formalmente anexado à Alemanha Nazista. Os alemães acreditavam que o território luxemburguês era parte do Reich Alemão e iniciaram um programa de repressão cultural, especialmente para livrar o país da influência francesa. Um pequeno número de cidadãos de Luxemburgo colaboraram com os nazistas, enquanto outros iniciaram uma resistência contra os alemães. A partir de 1942, cerca de 1 500 a 2 000 luxemburgueses se alistaram voluntariamente nas forças armadas alemãs, o que não correspondeu de longe aos números desejados pelo exército alemão. Paul Dostert afirma que vários casos indicam que muitos "voluntários" não eram de facto voluntários: numerosos casos são conhecidos onde criminosos, mentalmente perturbados e associais se voluntariaram para evitar serem enviados para um campo de concentração. Em Outubro de 1942, os ocupantes forçaram o serviço militar obrigatório. Enquanto isso, cerca de 3 500 judeus de Luxemburgo foram mortos no Holocausto. O processo de libertação do país pelos Aliados finalmente começou em setembro de 1944, mas foi atrasado devido a ofensiva alemã nas Ardenas. Os nazistas só foram expulsos em definitivo no começo de 1945. O número de vítimas luxemburguesas saldou-se em 5 700, o que corresponde a 2% da população de 1940, a maior perda desse tipo na Europa Ocidental. Além disso, 18.658 edifícios foram destruídos ou fortemente danificados, representando 1/3 de todos os edifícios no Luxemburgo (afetando 39% da população).