У чэрвені 1941 года быў накіраваны на практыку ў вёску пад Брэстам. Бацькі і браты, як і большасць іншых сваякоў, загінулі ў мінскім гета. Яфім здолеў дайсці пешшу да Луцка, які яшчэ ўтрымлівала Чырвоная армія, і адтуль эвакуявацца праз Курск і Оршу ў Сызрань. У 1942 годзе быў прызваны ў войска. Пасля праходжання ў Куйбышаве пяхотнага вучылішча прыбыў на фронт у траўні 1943 года ў званні малодшага лейтэнанта. Быў пяць разоў паранены, у жніўні 1943 цяжка, пасля чаго амаль 10 месяцаў правёў у шпіталі. Удзельнічаў у баях на Курскай дузе, на Украіне, у Польшчы, у Германіі, удзельнічаў у штурме Прагі. Скончыў вайну у званні капітана. Быў узнагароджаны ордэнам Айчыннай вайны першай і другой ступеняў, ордэнам Аляксандра Неўскага, медалямі.