В 1939 году в восемнадцатилетнем возрасте Грёнинг вступил в НСДАП. Он хотел присоединиться к элитному подразделению Вермахта и нацелился на вступление в Ваффен-СС. Без ведома своего отца в 1940 году Гренинг направился в гостиницу, где проходил набор, и стал членом СС — организации, по его словам, «покрытой славой», «лихой и пикантной». Позднее, Грёнинг отмечал, что, придя домой и сообщив отцу об этом, он увидел на его лице разочарование. Грёнингу дали работу в отделе по заработной плате, вследствие чего он описывал себя как «человека за столом», довольного своей ролью в СС, а также административными и военными дивидендами, ожидаемыми и полученными от карьеры. Будучи молодым и высоким блондином, он очень гордился отлично сидящей на нём формой. Грёнинг был «верен Адольфу» и по рекомендации Верховного командования СС даже отрёкся от религии, выйдя из евангелической церкви. Однако первые сомнения в верности курса Гитлера появились у Грёнинга в 1941 году, после нападения на СССР, которое он счёл неразумным по причине мощи противника.