De begraafplaats werd in 1748 opgericht om de veteranen van de Oostenrijkse Successieoorlog (1740-1748) een laatste rustplaats te geven. Het lag naast een militair ziekenhuis opgericht door koning Frederik de Grote. In een koninklijk besluit van 1824 werd vastgelegd dat het Invalidenfriedhof de begraafplaats moest worden voor alle vooraanstaande Pruisische militairen, waaronder Bogislav Friedrich Emanuel von Tauentzien. De begraafplaats was ook de rustplaats van de soldaten die omkwamen tijdens de revoluties van 1848-1849 in de staten van de Duitse Bond. In 1872 lagen er ongeveer 18.000 mensen op de begraafplaats.