Berger gehörte im Sommer 1944 zu den Verantwortlichen der Heu-Aktion. Dabei wurden zehn- bis fünfzehnjährige Kinder aus Osteuropa nach Deutschland verschleppt, um dort als Zwangsarbeiter eingesetzt zu werden. Am 31. August 1944, zwei Tage nach Ausbruch des Slowakischen Nationalaufstandes, wurde Berger als HSSPF „Slowakien“ zur Niederschlagung des Aufstandes in die Slowakei entsandt. Ab 6. September 1944 im Amt eines „Deutschen Befehlshabers in der Slowakei“, unterstand er direkt Adolf Hitler und Keitel. Berger zog deutsche Verbände wie die Division Tatra, Einheiten des SS-Postschutzes sowie das Sonderkommando Dirlewanger zusammen; zudem kamen kollaborierende slowakische Gruppen wie die Hlinka-Garde zum Einsatz. Im Gefolge der Einheiten gingen Adolf Eichmann und Josef Witiska auf die Suche nach Juden. Wegen seiner Erfolge in der Slowakei stand Berger bei Hitler in hoher Gunst. Am 19. September wurde Berger in der Slowakei durch den SS-Obergruppenführer Hermann Höfle abgelöst.