1958年5月，洛阳博物馆始建，原址位于洛阳洛南关林。是中华人民共和国成立后最早建立的地市级博物馆。但当时由于财政问题，暂定关林庙为馆址，洛阳市文物管理委员会与博物馆合署办公，编制仅14人，将关林庙的大殿和厢房做为展厅。由于20世纪60年代初的三年困难时期，博物馆工作受到严重影响，在文化大革命，由于“破四旧”运动的浪潮，博物馆濒临解散的边缘。1969年，博物馆工作人员到农村接受再教育，由中国人民解放军暂为接管，博物馆人员学成返回后，暂住西关，业务处于停滞状态。1972年，博物馆借王城公园的一座简易花棚