上别名有淮山、楚山、淝陵、北山、寿春山等。“八公山”一名源自于西汉淮南王刘安得道成仙的传说。汉厉王之子刘安被封为淮南王，他广招门客，其中最受刘安赏识的有八位，即左吴、李尚、苏飞、田由、毛被、雷被、伍被、晋昌，称作「八公」。相传刘安与八公一起得道升仙。北宋乐史《太平寰宇记》(卷一百二十九·淮南道七·寿州)载：“昔淮南王与八公登山埋金于此，白日升天。余药在器，鸡犬舔之，皆仙。其处后皆现人马之迹，犹在，故山以八公为名。”这也是成语“一人得道，鸡犬升天”的出处。
历史.西周时，八公山附近为