Martin Andreas Udbye ble født i Trondhjem, sønn av tollrorskarl Ole Jonsen Udbye (1785–1856) og Birgitte Øien (1781–1866). Udbye arbeidet som lærer i barneskolen i Trondhjem, han virket også som organist ved Hospitalskirken (1844–69) og Vår Frue kirke (1869–85). I 1851 reiste Udbye til Leipzig, hvor han studerte orgel og komposisjon. Året etter var han tilbake i hjembyen, hvor han ble ansatt som musikklærer ved Trondheim katedralskole.