Удзельнік Вялікай Айчыннай вайны з чэрвеня 1941 года. Ваяваў у складзе войскаў Заходняга, Паўднёва-Заходняга, Сталінградскага і 1-га Беларускага франтоў. Камандаваў танкавым палком. У якасці камандуючага бранетанкавымі сіламі 62-й арміі і намесніка камандарма В. І. Чуйкова Мацвей Рыгоравіч Вайнруб ярка праявіў сябе ў абароне Сталінграда. У ходзе Сталінградскай бітвы падраздзяленні пад яго камандаваннем не дапусцілі гітлераўцаў да Цэнтральнай чыгуначнай станцыі, а затым спынілі наступ фашысцкіх войскаў на гэтым участку фронту, ён асабіста кіраваў атакай на «Дом спецыялістаў».