Etter krigen fortsatte hans militære karriere innen infanteriet i Reichswehr. Da 2. Infanterie-Division ble organisert den 1. oktober 1934 ble Gollnick bataljonsbefalhavende i ett av infanteriregimentene. I oktober 1937 ble regimentet motorisert. I mai 1939 forlot han denne enheten, og fikk i stedet kommandoen over et motorisert regiment i 20. Infanterie-Division.