Први меморијални споменик на Новом гробљу је Српска костурница, изграђена 1907. године, у којој су са Старог ташмајданског гробља, код цркве Светог Марка, пренети посмртни остаци ратника из српско-турских ратова 1876-1878. и српско-бугарског рата 1885. године и налази се у близини цркве Светог Николе. Посебну знаменитост Новог гробља чине војничка гробља где су сахрањени погинули у балканским ратовима и Првом и Другом светском рату. Овде почивају припадници српске и савезничких армија, али и ратних противника Србије, па се као посебне целине издвајају француско, руско, италијанско, аустро-угарско, бугарско, и енглеско војно гробље. Такође, овде су сахрањени београђани погинули у бомбардовањима Београда априла 1941. и априла 1944. године.