Hautausmaan perusti Preussin kuningas Fredrik Suuri vuonna 1748 viimeiseksi leposijaksi samassa yhteydessä perustamansa Invalidenhausin asukkaille, jotka olivat Itävallan perimyssodan veteraaneja. Myöhemmin hautausmaalle haudattiin monia tunnettuja Preussin sotasankareita, joukossa useita kenraaleita. Varsinkin Napoleonin sotien jälkeen siitä tuli tunnettujen komentajien hautauspaikka ja eräänlainen Saksan vapaussotien muistomerkki. Erään laskelman mukaan hautausmaalle oli vuoteen 1925 mennessä haudattu 11 marsalkkaa ja kenraalieverstiä, 67 kenraalia, 104 kenraaliluutnanttia, 93 kenraalimajuria, 9 amiraalia ja 7 Preussin sotaministeriä. Taiteellisesti merkittävin hauta on kenraali Gerhard von Scharnhorstin hautamuistomerkki vuodelta 1834. Se on marmorinen sarkofagi, jonka päällä lepää leijonaa esittävä pronssipatsas. Itse muistomerkin suunnitteli arkkitehti Karl Friedrich Schinkel, leijonapatsaan veisti Christian Rauch ja marmorireliefit teki Friedrich Tieck. Invalidenfriedhofiin haudattiin myös vuoden 1848 vallankumouksen yhteydessä kaatuneet sotilaat. Invalidenfriedhofiin haudattiin varsinkin 1800-luvun puolivälistä eteenpäin myös runsaasti siviilejä ja vuonna 1920 se muutettiin virallisesti tavalliseksi hautausmaaksi.