Rühle besuchte das Kadettenhaus Berlin und wurde am 6. Dezember 1795 zusammen mit Heinrich von Kleist Fähnrich im Regiment Garde. Mit diesem verband ihn seit dieser Zeit eine enge Freundschaft. Dass er sich lebhaft für das Militärwesen interessierte, beweist seine Mitgliedschaft in der Militärischen Gesellschaft. Im Unterschied zu Kleist machte er beim Militär Karriere, nachdem er seit 1801 die Vorlesungen von Scharnhorst besucht hatte. 1806 kämpfte er im Korps des Fürsten Hohenlohe als Generalstabsoffizier während des Feldzuges in der Schlacht bei Jena und Auerstedt und wurde nach der Kapitulation von Prenzlau inaktiv. Rühle erhielt nach dem Frieden von Tilsit die Erlaubnis, in weimarische Dienste zu treten. Dort stieg er zum Major auf und wurde Kammerherr sowie Gouverneur des Prinzen Bernhard von Weimar. Mit ihm war er 1809 bei der Sächsischen Armee am Feldzug gegen Österreich beteiligt. 1811 gab Rühle seine Anstellung auf und betätigte sich in der Landwirtschaft, da sein Ersuchen um Verwendung als Lehrer an der Allgemeinen Kriegsschule aufgrund nicht vorhandener Stellen abgelehnt worden war.