山公共图书馆于1998年6月22日正式启用，成为黄大仙区第5间公共图书馆。另外，该图书馆也是区内4间小型图书馆之一（其余为乐富、龙兴和富山公共图书馆），并主要为慈云山区居民提供图书馆服务。
历史.慈云山公共图书馆的原址是位于旧慈正邨中心（原循理会至正学校）3楼，在1987年12月28日开始提供服务。但随着整个慈云山邨于1990年代起逐步被拆卸与重建，该馆便迁至现址并在1998年6月22日重新开放，时任临时市政局图书馆委员会主席甘乃威和临时市政局议员李国强于同年7月18日出席开幕典礼