Als beurlaubter Lehrstuhlinhaber war Harmjanz von 1937 bis 1943 Sachbearbeiter im Amt Wissenschaft des Reichswissenschaftsministeriums, ab 1942 persönlicher Referent des Ministers Bernhard Rust, Ministerialdirektor und Chef des Ministeramtes. Außerdem wurde er 1939 Leiter der Abteilung Volksforschung und Volkskunde im Ahnenerbe der SS. In diesem Zusammenhang wurde ihm die Beteiligung am Kunstraub in Polen vorgeworfen.