Grimminger s-a alăturat Partidului Nazist (NSDAP) în 1922 și a devenit un membru al "Sturmabteilung" (SA). El a luat parte la luptele de stradă de la Coburg din 1922 și la Puciul de la München din 8 noiembrie 1923. După ce a servit la "Casa Brună", cartierul general al NSDAP, a fost selectat în 1926 pentru a deveni membru al "Schutzstaffel" (SS). Grimminger a fost promovat de mai multe ori pe parcursul carierei sale în SA și SS, ajungând în cele din urmă la gradul de SS-"Standartenführer" (echivalent cu gradul militar de colonel). În calitate de membru al SS, el a primit onoarea de a purta drapelul pătat de sânge "Blutfahne" de la Puciul de la München. Grimminger a fost decorat cu Insigna de Aur a Partidului, cu Ordinul Sângelui (nr. 714) și cu Insigna Coburg, trei dintre cele mai importante decorații ale NSDAP.