Родился в одной из деревень департамента Эстели. Точная дата рождения в открытых источниках отсутствует, но известно, что на момент прихода к власти СФНО Хосе Габриэлю Гармендиа было около 20 лет. В 1980 году его отец, евангелический проповедник, был убит сандинистами как «чуждый элемент». Вместе с братьями, которые впоследствии погибли в боях, Хосе Габриэль Гармендиа перебрался через гондурасскую границу и примкнул к Никарагуанским демократическим силам.