Klostret ligger på det sted der gelug-skolens grunnlegger Tsongkhapa ble født i 1357. Til å begynne med stod en (en form for stupa) på stedet, men i 1560 bygde meditasjonsmesteren Rinchen-tsondru-gyeltsen et lite kloster på stedet. I 1576 innbød den mongolske fyrst Altan Khan Sonam Gyatso til Mongolia for å innføre gelug-skolen i landet. På vei til møtet bad Sonam Gyatso om at Rinchen-tsondru-gyeltsen skulle bygge et større kloster og utpekte ham til høyeste lama ved klosteret, som stod ferdig i 1583. Det nye klosteret fikk navnet Kumbum Jampa-ling.