Det gamle i Oslo, som ligger bak Nasjonalbiblioteket, ble tatt i bruk i 1833. På grunn av at byen vokste raskt, ble det alt i 1890-årene klart at stedet ikke lenger var egnet for astronomiske observasjoner, og i 1918, da Svein Rosseland ble professor i astronomi og bestyrer av observatoriet, hadde det ikke vært utført observasjoner av vitenskapelig verdi på flere tiår. Etter å ha grunnlagt Institutt for teoretisk astrofysikk i 1934 for midler skjenket av Rockefeller-stiftelsen, argumenterte han for at det skulle bygges et nytt observatorium. Det ble besluttet at man skulle satse på et solobservatorium, og dette måtte ligge så nær Oslo som mulig uten at lyset fra byen virket forstyrrende på observasjoner av svake himmellegemer når det var mørkt. Undersøkelser av astronomisk sikt ble foretatt over store deler av Østlandet, men da disse resulterte i små forskjeller i siktbarhet kunne valget derfor gjøres ut fra mer praktiske hensyn, og Gunnarshaugen ble valgt. Mulighetene til å reise økonomiske midler av større omfang var derimot begrensede, og en tomt på ca. 10 hektar ble derfor leid av Lunner Almenning mot en symbolsk avgift på 50 kr pr. år. Leietiden ble satt til 99 år.