Die Kaserne wurde bei der Aufrüstung der Wehrmacht von 1936 bis 1938 auf einem mehr als 15 ha großen Gelände am östlichen Rand Rahlstedts gebaut. Benannt wurde sie nach Rüdiger von der Goltz. Der markanteste Baukörper der Anlage war die Toranlage, deren Pfeiler auf der Innenseite Bilder des Einmarsches deutscher Truppen in Prag und der Besetzung Brest-Litowsks zeigten, die 1939, zu Beginn des Zweiten Weltkriegs, entstanden. Die Bilder sollten an die Beteiligung des in Hamburg stationierten Infanterieregiments 76 an der Besetzung Brest-Litowsks erinnern. Die Kaserne war annähernd achsensymmetrisch zum Tor und dem direkt dahinter liegenden Platz mit einem kleinen Denkmal aufgebaut.