Grimminger sluttet seg til nazistpartiet (NSDAP) i 1922 og ble medlem av Sturmabteilung (SA). Samme år deltok han i slåsskampene i Coburg og året etter i Ølkjellerkuppet i München. Etter å ha gjort tjeneste ved hovedkvarteret til NSDAP ble han i 1926 valgt til medlem av SS.