Gerlach døde ensom i et hotellværelse i Paris i 1935. Han regnes av Arbeitsgemeinschaft Orte der Demokratiegeschichte blant de 100 viktigste personer som i løpet av de siste 200 år, har bidratt til dannelsen av demokratiet i Tyskland.