Konservatoriet ble grunnlagt av fiolinisten Johan Nilsson i Aarhus 1927. Han drev det på privat basis fram til 1932, deretter ble skolen drevet av lærerstaben til det i 1944 ble en selveiende institusjon ledet av et styre.