Bereits vor dem Zweiten Weltkrieg kam es zu Eingriffen in das Friedhofsgelände und die Räumung von Gräbern, so ließ die Parteidienststelle der NSDAP 1933 im Nordostteil eine Baracke für ein Kindertagesheim errichten und dazu einen Zugang zur Wohlers Allee anlegen. Zu Beginn des Krieges wurde in der Südost-Ecke ein Löschwasserbecken ausgehoben, die Ummauerung ist bis heute erhalten. In der Nacht vom 24. auf den 25. Juli 1943, während der Luftangriffe der sogenannten Operation Gomorrha, wurde auch Teile des Friedhofs zerstört. Die Schadenserfassung listet unter anderem einen Bombentrichter am Eingang Norderreihe auf, die Zerstörungen von 36 Grabstätten an der Südwestseite, Schuttberge an der Westseite, da an der benachbarten Georgstraße (heute Mumsenstraße) sämtliche Häuser ausgebrannt und das Mauerwerk eingestürzt war, Zerstörung von etwa 90 % der eisernen Einfriedung sowie Schäden an der Friedhofskapelle. Diese wurde nach dem Krieg abgerissen und durch einen Verwaltungsbau ersetzt. In den letzten Kriegstagen kam es noch zur Abräumung vieler Grabsteine im Nordostteil, die für eine Panzersperre in der Straße "Bei der Johanniskirche" genutzt werden sollten.