Durante la Operación Weserübung de ocupación de Dinamarca y Noruega, Carls dirigió el estado mayor operativo del Mando de Grupo Naval del Oeste, responsable de la preparación de las operaciones navales en Noruega, por lo que el 14 de junio de 1940 se le concedió la Cruz de Caballero de la Cruz de Hierro. Desde agosto de 1940 se ocupó del mando operativo de las fuerzas navales en la Bahía alemana, Dinamarca y Noruega. En primavera de 1941, las unidades bajo su mando participaron en la Operación Barbarroja, el ataque contra la Unión Soviética, en concreto en la conquista de las islas del Báltico.