1950年3月行政院训令中华民国财政部垫款新台币二十万元，台湾省政府拨地，于台北市剑潭山山麓建立牌坊、纪念碑、纪念堂、招魂冢等纪念建筑群。1951年2月19日举行落成典礼，时任中华民国总统蒋中正亲自率领行政院院长陈诚、立法院院长刘健群、司法院院长王宠惠、考试院院长钮永建、监察院院长于右任、总统府资政阎钖山、国防部部长袁守谦、参谋总长周至柔、陆军总司令孙立人、台湾省政府主席吴国桢、台北市市长吴三连等军政首长前往致祭，阎钖山撰写「太原五百完人成仁纪念碑」碑文、祭文，另还撰写《太原五百完人歌》；孙立人则为冢