Jego ojcem był znany adwokat Adolf Gross, poseł do parlamentu austriackiego, bratem zaś - Feliks Gross, socjolog, działacz i publicysta socjalistyczny. W okresie międzywojennym Zygmunt był zaangażowany w działalność w PPS i w Towarzystwie Uniwersytetów Robotniczych. Współpracował z krakowskim socjalistycznym pismem „Naprzód”. W okresie okupacji przebywał we Lwowie pracując jako pracownik fizyczny w teatrze muzycznym. Następnie z racji swojego żydowskiego pochodzenia ukrywał się w Warszawie. Poznał wtedy swoją przyszłą żonę Hannę Szumańską (1919–1973), córkę znanego przedwojennego adwokata, Wacława Szumańskiego, który był obrońcą m.in. w procesie brzeskim). Jego przyszła żona była łączniczką Biura Informacji i Propagandy Armii Krajowej, pomagała mu w czasie ukrywania się po aryjskiej stronie.