Gripenberg kirjoittautui asepalvelukseen jo kahdeksanvuotiaana. Gripenberg otti osaa an majurina Hämeen jalkaväkirykmentissä. Hänet ylennettiin 1789 everstiluutnantiksi ja 1794 everstiksi sekä 1795 Hämeen jalkaväkirykmentin komentajaksi. Hän osallistui Suomen sotaan ja 1808-1809 komensi Tornion seudulla 3 800 sotilaan vahvuista "Ruotsin pohjoista armeijaa".