皇阁的现址在明朝永乐年间为一座白龙庙。清朝光绪初年时，当地大旱后迎来降雨，当地居民认为这是在白龙庙祈雨成功的结果，于是将白龙庙改建为玉皇阁，这次修建由道士阎阁璧主持修建，主要修建了一座八仙殿和一座2层建筑。1934年，孙殿英率军进抵宁夏，与马鸿逵的部队展开战斗，双方在平罗战役中，马鸿逵所属部队占据玉皇阁对孙殿英军发起反攻，并最终击退对方。1939年，为了纪念这次战役的胜利，马鸿逵派人扩建了该玉皇阁，这次扩建由平罗商务会长丁福润主持，平罗商务会会员杨生业和赵兴业负责修建，除北侧的一处院落之外，还赠修了南侧的一