Gramß trat bereits 1923 der NSDAP (Mitgliedsnummer 26.526) bei und nahm als Mitglied des Bataillons Augsburg am gescheiterten Hitler-Putsch im selben Jahr teil („Marsch auf die Feldherrenhalle“). Er war Träger des Blutordens und des Goldenen Parteiabzeichens der NSDAP. Nach dem Verbot der NSDAP infolge dieses Putschversuchs am 23. November 1923 und ihrer Wiedergründung im Februar 1925 trat Gramß der NSDAP am 1. Juli 1928 erneut bei (Mitgliedsnummer 93.366). Im Jahr 1928 trat er auch in die SA ein und wurde dort Sturmführer. Mitglied der SA war Gramß von 1. Oktober 1928 bis 14. April 1934; zum Zeitpunkt des so genannten Röhm-Putsches war er also bereits nicht mehr SA-Mitglied.