Au début de la Seconde Guerre mondiale, le navire est encore en formation. Au début de l'année 1940, il effectue deux opérations de mouillage de mines au large des côtes anglaises qui coulent six navires marchands. Au début de la campagne de Norvège, l"'Erich Koellner" prend part aux deux batailles navales de Narvik à la mi-, au cours duquel il fut gravement endommagé par des navires britanniques lors de la deuxième bataille de Narvik. Le navire est sabordé par son équipage peu de temps après.