Осенью 1937 года Малышев был призван на службу в Рабоче-крестьянскую Красную Армию, служил механиком-водителем танка на Дальнем Востоке. Окончил полковую школу младших командиров, участвовал в боевых действиях у озера Хасан. С июля 1941 года — на фронтах Великой Отечественной войны.