Матвей Гершевич родился 28 февраля 1948 года в селе Улюн Баргузинского района Бурят-Монгольской АССР. По материнской линии его корни уходят к сосланным в Баргузинскую долину евреям, которые участвовали в польском восстании 1830-1831 гг.