Da andre slesvigske krig brøt ut i 1864 fikk han kommandoen over 1. divisjon som kjempet prøysserne tilbake ved Mysunde den 2. februar. Han støttet Christian de Mezas beslutninger om å evakuere Dannevirkestillingen. Da de Meza ble avskjediget som øverstkommanderende for hæren på grunn av denne beslutning, ble Gerlach mot egen vilje beordret til at overta kommandoen.