Ulrik ble født i Jensestogun, som han tok navn etter, og var sønn av kommandersersjant og bonde Ole Eriksson og ektefellen Thora Olsdotter Kjørstad. Ulrik fattet tidlig interesse for felespill, og ble regnet som spellemann fra han var femten år gammel. Han gikk i lære hos Bendik i Nøen, som hadde spel direkte fra Jørn Hilme. Ellers dro Ulrik så langt som til Kongsberg i unge år, men her ble han syk av nervefeber og måtte oppgi tanken om å drive gård.