Pritzelwitz besuchte zunächst das Kadettenhaus in Berlin und wurde am 11. April 1784 als Gefreiterkorporal im Infanterieregiment „von Bornstedt“ der Preußischen Armee angestellt. Dort wurde er am 29. März 1787 zum Fähnrich sowie am 17. Februar 1789 zum Sekondeleutnant befördert. Als solcher nahm er 1794/95 an der Niederschlagung des Aufstandes in Polen teil und fungierte während dieser Zeit als Adjutant des Generals von Kunheim. Mit der Beförderung zum Stabskapitän wurde Pritzelwitz am 24. März 1801 in das Infanterieregiment „von Braunschweig“ nach Halberstadt versetzt. Mit diesem Regiment nahm er während des Vierten Koalitionskrieg gegen Napoleon Bonaparte an der Schlacht bei Auerstedt teil, wurde dabei verwundet und nach der Niederlage Preußens zunächst inaktiv gestellt.