下马碑主要立于以下三种建筑群前：各朝各代的皇家墓陵（如明十三陵、清西陵）、祭祀或供奉先君圣祖的庙宇（如孔庙、历代帝王庙）、帝王宫殿（如南京故宫、北京故宫、沈阳故宫）。可知最早的下马碑在山东省曲阜市孔庙的正门前，初立于金·明昌二年（1191年），而后又于明·永乐十五年（1417年）重立，保留至今。中国历史上的各朝各代均在其疆域上立过下马碑，除中国大陆地区以外，在汉字文化圈影响到的周边国家与地区亦有竖立下马碑的习惯。各地下马碑举例有：中国大陆北京历代帝王庙、台湾台南孔庙、朝鲜开城善竹桥、韩国首尔宗庙及东关王庙