Beim deutschen Unternehmen Weserübung gehörte "Z 21" unter Erdmenger zur „Kriegsschiffsgruppe 1“ unter Kommodore Friedrich Bonte und brachte am 9. April 1940 200 Gebirgsjäger nach Narvik. Beim ersten britischen Gegenangriff auf den Hafen von Narvik am 10. April 1940 wurde "Z 21" durch Torpedotreffer eines britischen Zerstörers versenkt. 81 Mann an Bord starben bei dem vorangehenden Artilleriegefecht, darunter auch Kommodore Bonte. Erdmenger und der Rest seiner Besatzung bildeten das „Marinebataillon Erdmenger“ und besetzten den Hafenabschnitt vom „Malmkai“ (Erzkai) bis zum Stückguthafen in Fagernes. Ab dem 14. April, als auch der letzte der zehn deutschen Zerstörer in Narvik vernichtet worden war, wurden alle rund 2600 verbliebenen Marineangehörigen zur Verteidigung des Hafens und der Erzbahn von Schweden nach Narvik herangezogen, die Mehrzahl von ihnen im Marine-Regiment Berger.