Wegen seiner anhaltenden Saufgelage und seiner Korruption versuchte die Freiburger SS mehrfach Gunst loszuwerden. Schließlich sandte ihn die SS 1939 als SS-Führer des Volksdeutschen Selbstschutzes in das deutsch besetzte Polen. Letztlich wurden ihm ein Verhältnis mit einer Polin und ein zufälliger Beschwerdebrief von einer Freundin Heinrich Himmlers zum Verhängnis, die zu seiner Degradierung und Versetzung an die Ostfront führten. Da Gunst seit 1943 vermisst wird, konnte er nach dem Krieg gerichtlich nicht verfolgt werden.