Gelfand wurde in Jessentuki und dessen Umgebung am Anfang des Krieges bei einfachen Reparaturarbeiten eingesetzt. Im April 1942 meldete er sich an die Front, am 6. Mai 1942 wurde er einberufen. Die Grundausbildung erhielt der Neunzehnjährige in einer kleinen Artillerie-Einheit in der Nähe von Maikop im westlichen Kaukasus. Ihm wurde der Rang eines Sergeanten zugesprochen, er übernahm das Kommando über eine Granatwerferbesatzung. Als die Ölfelder bei Maikop im August 1942 direktes Ziel deutscher Angriffe wurden und die Wehrmacht in den Kaukasus vordrang, war Gelfand bereits nicht mehr dort. Er kämpfte seit Juni auf dem linken Flügel der Südwestfront bei Charkow, die den mächtigen Attacken des Gegners allerdings nicht gewachsen war.