Una vez que Noruega fue sometida, llegó a se evidente que el "U 4" y sus cuatro gemelos supervivientes resultaban obsoletos en aquel momento, por lo que fueron relegados a tareas de entrenamiento de tripulaciones, encuadrados dentro de la 21ª Unterseebootsflottille (flotilla de submarinos), en la que sirvió en el mar Báltico hasta que fue retirado del servicio el 1 de enero de 1944.