49年1月，中华民国政府追其为陆军上将并于南京钟山举行国葬（墓址在太平门外曹古山国葬区），由中华民国总统蒋中正亲自主持，并再追赠其青天白日勋章。同年4月，中国人民解放军攻佔南京，中华民国政府再将其骨骸迁葬于台湾五指山公墓上将区。此外在南京太平门外蒋王庙李文忠墓后山亦有黄百韬墓，可能为其衣冠冢。1960年，已经撤退到台湾的国民政府正兴建了一条中横公路，为纪念黄百韬而在中横公路的宜兰支线一座桥题名「百韬桥」，这座桥现今位在台7甲线起点。
逸闻.1957年10月29日，黄百韬之子黄效先因