सन 1926 में इस इंस्टीट्यूट की स्थापना जाने माने शास्त्रीय गायक विष्णु नारायण भारतखंडे औऱ राय उमानाथ बाली ने तत्काल शिक्षा मंत्री डॉ.राज राजेश्वरी बाली के सहयोग से की थी। तब इस इंस्टीट्यूट का नाम मैरिस कॉलेज ऑफ म्यूजिक रखा गया था। आजादी के बाद 26 मार्च 1966 को उत्तर प्रदेश सरकार ने इस इंस्टीट्यूट का नाम बदलने का निर्णय लिया और संस्थापक विष्णु नारायण भातखंडे के नाम पर इसका नाम रखा गया भातखंडे म्यूजिक कॉलेज ऑफ हिंदुस्तानी म्यूजिक। सन 2000 में सरकार ने इसे डीम्ड यूनिवर्सिटी का दर्जा दिया गया।