Rudbeck inriktade sig tidigt på den militära banan. Han blev 1731 volontär vid Tavastehus läns infanteriregemente. I september 1732 blev han korpral, och 1734 furir. År 1739 blev han fänrik vid Livgardet och utmärkte sig för mod och rådighet i 1741–43 års finska krig. Han befordrades till löjtnant 1743. Under Dalaupproret i Stockholm deltog han med att hålla Riddarholmsbroarna besatta och hindra de upproriska från att tränga vidare. För sin insats under upproret blev han 1743 utnämnd till major vid Upplands regemente. Han blev befordrad till överstelöjtnant 1748. I början av pommerska kriget var han generaladjutant under Ungern-Sternberg, och 1758 utnämndes han till överste för Björneborgs regemente. Följande år utnämndes han till överste och regementschef för Upplands regemente. Slutligen blev han 1766 generalmajor.