Etter konfirmasjonen kom Jensen i 1863 til København, hvor han gikk ut fra Teknisk Institut i 1863 og dernest ble tatt opp på Kunstakademiets Arkitektskole i oktober 1864. Han tok avgangseksamen i juli 1870 og vant den lille gullmedaljen i 1874 for og den store gullmedalje i 1876 for , mens han samtidig arbeidet hos Johan Henrik Nebelong og senere hos Ferdinand Meldahl og Ludvig Fenger. Han vant Akademiets store reisestipendium i 1876, 1877, 1878 og oppholdt seg derfor 2½ år i utlandet og etter hjemkomsten knyttet han seg til flere av Meldahls arbeider.