Construida con piedras en lugar de arcilla, el dzong fue nombrado Rinpung, que significa "montón de joyas", pero Rinpung y todos sus tesoros fueron destruidos por un incendio en 1907.