У 1941 році Гітман був покликаний в Робітничо-Селянську Червону Армію, незважаючи на те, що через захворювання на важкий хронічний плеврит, призову не підлягав (при призові приховав хворобу і заявив про втрату військового квитка). Брав участь в обороні Кавказу. У 1942 році Гітман вступив у ВКП(б).