年4月，中国人民解放军攻佔南京，中华民国政府再将其骨骸迁葬于台湾五指山公墓上将区。此外在南京太平门外蒋王庙李文忠墓后山亦有黄百韬墓，可能为其衣冠冢。1960年，已经撤退到台湾的国民政府正兴建了一条中横公路，为纪念黄百韬而在中横公路的宜兰支线一座桥题名「百韬桥」，这座桥现今位在台7甲线起点。
逸闻.1957年10月29日，黄百韬之子黄效先因1956年5月10日犯下命案被判死刑。在黄母的求情下，当时的中华民国总统蒋介石因黄百韬功勋，不忍黄家血脉就此中断，而亲自在11月12日下令减刑改处