Vào đầu tháng 4 năm 1940, "Karlsruhe" tham gia Chiến dịch Weserübung, cuộc tấn công chiếm đóng Na Uy. Nó nằm trong thành phần Đội đặc nhiệm 4 cùng với các tàu phóng lôi "Seeadler", "Greif" và "Luchs" đảm nhiệm việc vận chuyển binh lính, và đã tiến đến Kristiansand, Na Uy vào những giờ đầu tiên của ngày 9 tháng 4. Trong chuyến quay trở về Đức ngay buổi chiều tối hôm đó, tàu ngầm Anh "Truant" đã tấn công "Karlsruhe" ngoài khơi Kristiansand, đánh trúng nó bằng một quả ngư lôi làm hư hại cả hai động cơ và máy phát điện. Tàu phòng ngư lôi "Greif" đã vớt những người còn sống sót trong số thủy thủ đoàn, rồi đánh chìm con tàu bị hư hại với hai quả ngư lôi lúc 22 giờ 50 phút đêm hôm đó.