Det ble opprettet i 1875 som Mohammadan Anglo-Oriental College av den muslimske reformatoren Syed Ahmed Khan. Den senere presidenten i Folkeforbundet, Aga Khan III, bidro til lærestedets utvikling i første halvdel av 1900-tallet. Ingeniørstudier ble startet opp på 1930-tallet.