Heuch var en arg motstander av kvinnefrigjøring, og leverte et av de kraftigste angrepene mot allmenn stemmerett for kvinner mens han var vararepresentant i Stortinget i 1890.