Im April 1943 wurde er zum SS-Hauptsturmführer befördert. Zu dieser Zeit wurde er als Mitarbeiter des Reichssicherheitshauptamtes (RSHA) geführt, ist jedoch auf keinem Geschäftsverteilungsplan oder Telefonverzeichnis nachweisbar. Auch für eine Tätigkeit im Reichskriminalpolizeiamt (RKPA) gibt es keinen Anhaltspunkt. Seinen Angaben zufolge wurde er 1944 durch die Kripo Berlin mit dem Kriegsverdienstkreuz II. Klasse ausgezeichnet. Mitte 1944 schied Holle bei der Mordkommission aus und wurde mit der Aufdeckung von Wehrwirtschaftsverbrechen betraut. Am 24. April 1945 wurde Holle aus dem umkämpften Berlin abkommandiert, um das Fahndungskommissariat in Schwerin zu leiten. Als auch hier die Truppen der Alliierten anrückten, erhielt er Anfang Mai 1945, wenige Tage vor der Kapitulation, den Befehl, Polizeiaufgaben im unbesetzten Kiel zu übernehmen.