回到德国后，卡尔斯鲁厄号恢复了在波罗的海的培训职责。它于1938年5月因进行大规模现代化改造而被撤出现役。烟囱被改造为斜顶的样式，并在它们两侧增设了探照灯平台。舰只的88毫米炮则被更具威力的105毫米炮所取代。工程一直持续至1939年11月，即第二次世界大战爆发后不久。在接下来的几个月里，它一直在进行试验和训练演习。1940年1月4日，卡尔斯鲁厄号和23号布雷艇受命前往拦截瑞典轮船奥斯卡国王号（），后者正搭载着波兰难民从里加送往瑞典。卡尔斯鲁厄号逮捕了这艘瑞典船舶，宣布为战利品，并将该舰及其舰上的41名波兰人押运至梅梅尔。在威悉演习行动开始时，卡尔斯鲁厄号尚未具备作战条件，因此它被用作前往袭击克里斯蒂安桑的部队运兵船。袭击部队还包括有一艘S艇供应船、四艘大型鱼雷艇和若干S艇。