Pocházel z tyrolské šlechtické rodiny, která vlastnila statky v severních Čechách a v roce 1733 získala říšský hraběcí stav. Byl synem c.k. generálmajora Prokopa Zikmunda Klebelsberga (1735–1819), matka Marie Josefa (1739–1800) pocházela z rodu Ugarte. Do armády vstoupil jako kadet v roce 1785 a pod velením svého otce se zúčastnil války proti Turkům, později bojoval ve francouzských revolučních válkách. V roce 1797 dosáhl hodnosti majora, v roce 1802 byl jmenován c.k. komořím a po povýšení na plukovníka (1805) velel v severní Itálii. Zúčastnil se tažení v roce 1809, téhož roku byl povýšen na generálmajora a získal Řád Marie Terezie. V roce 1813 dosáhl hodnosti polního podmaršála a bojoval v bitvě u Lipska, v následujícím roce pod Aloise Lichtenštejnem operoval na Rýně a dosáhl samostatného vítězství u St Julien ve Švýcarsku nad generálem Marchandem (1. března 1814). Ještě v roce 1814 obdržel Vojenský záslužný kříž a Leopoldův řád, později získal francouzský Řád sv. Ludvíka (1816) a ruský Řád sv. Anny (1820). V roce 1831 byl povýšen na generála jezdectva a v letech 1831–1834 byl zemským velitelem pro Moravu a Slezsko se sídlem v Brně. Od roku 1832 byl též c.k. tajným radou. Závěr své kariéry strávil jako velitel pevnosti v Terezíně (1834–1841), kde také zemřel.