I løpet av sommeren 1942 ble Gemmecke sendt til Düsseldorf og Berlin for videreutdanning innen politiyrket med fokus på spionasje og sabotasje. Han tok sin fagprøve som kriminalinspektør i mars 1943 før han ble sendt tilbake til Trondheim som løytnant (SS-Obersturmführer) og sjef for Gestapo, inkludert agentkontoret, Referat IV N. Her var han blant annet sjefen til Henry Rinnan.