Skolen har 275 ansatte og drøyt 800 studenter som kommer fra 40 forskjellige land. MSM ble grunnlagt i 1917 med navnet Neighborhood Music School, men skiftet til sitt nåværende navn da skolen begynte å gjøre seg kjent i New York-området. Skolen holdt opprinnelig til på Upper East Side i Manhattan, men flyttet i 1969 til nabolaget Morningside Heights, like i nærheten av Columbia University.