名为「太平山」，是因为供奉太平清醮主神玄天上帝的长洲玉虚宫内的两尊玄天上帝神像，其中一尊是从太平山街移来，「太平山」就是代表太平清醮的渊源 。左右两座一名为「福如东海」，另一名为「安居乐业」，皆与三合会有关，分别代表福义兴和新义安这两个以海陆丰人为主的三合会组织。在1970年代，福义兴和新义安、经常借抢包山活动显示实力。在1978年5月9日的抢包山活动当中，300多人从四方八面，没有秩序的攀上包山抢平安包，而其中一座包山因不胜负荷而塌下，导致24人被压断手脚受伤，造成严重意外事故。香港政府便因此而禁止了