Jo Gjende ble født i Vågå i Gudbrandsdalen som sønn av Tjøstolv Olsson (død 1797) på Sygard Kleppe i Vågå og Marit Pedersdatter (død 1798) fra Horgen i Heidal og hadde fire søsken. Faren var en rabulist, og ble kalt «Galn-Tjøstolv». Han ble døpt 24. august 1794. Fra 1798 til 1818 bodde han hos en morsøster på Heringstad i Heidal og overtok senere gården.