Леонид Голев родился 21 марта 1925 года в деревне Вырово (ныне — Кудымкарский район Коми-Пермяцкого округа Пермского края) в крестьянской семье. Окончил десять классов школы, работал младшим техником-геодезистом Пермской поисковой геолого-нефтяной конторы. В январе 1943 года добровольно пошёл на службу в Рабоче-крестьянскую Красную Армию. Учился в 1-м Ленинградском военно-пехотном училище имени Кирова, эвакуированном в город Березники. Летом 1943 года он был отправлен на фронт для участия в битве на Курской дуге. Был наводчиком 45-миллиметрового орудия истребительно-противотанковой батареи 310-го гвардейского стрелкового полка 110-й гвардейской стрелковой дивизии 37-й армии 2-го Украинского фронта. Отличился во время битвы за Днепр.