I 1950-årene vendte Otto Mortensens interesse seg mot mer teoretiske musikalske emner, og han gjennomførte et studium ved Københavns Universitet og ble i 1956 (mag.art.) i musikkvitenskap. I den sammenheng skrev han forskjellige vitenskapelige artikler og bøker: (1954), , . Fra 1966 til 1974 var han deretter lektor i Musikvidenskab ved Aarhus Universitet.