Schweinsberg trat 1768 in die Garde von Hessen-Kassel und wurde dann 1771 Fähnrich im Leibregiment. 1774 nahm er seinen Abschied und trat auf Empfehlung des Kammerherrn Riedesel in preußische Dienste über. Schweinsberg wurde am 13. Juni 1774 als Premierleutnant im neuerrichteten Füsilierregiment „Hessen-Philippsthal“ Nr. 55 angestellt. Mit dem Regiment nahm Schweinsberg am Bayerischen Erbfolgekrieg teil, wurde 1780 Stabskapitän und im Jahr darauf am 28. Februar 1781 bereits Kapitän und Kompaniechef. Als Major erhielt er am 4. Juli 1790 das Kommando des Grenadierbataillons. Dieses führte Schweinsberg im Ersten Koalitionskrieg 1792 in der Champagne und 1793 am Rhein sowie 1794/95 während des Feldzuges in Polen. Er kämpfte im Gefecht bei Powonsk, wofür er mit dem Orden Pour le Mérite ausgezeichnet wurde, der Einnahme von Warschau sowie in der Schlacht an der Rawka. Für seine Leistungen während des Gefechts bei Sochaczew wurde Schweinsberg außer der Reihe am 3. November 1794 zum Oberstleutnant befördert.