Annegret Kramp-Karrenbauer schlug Ziemiak nach ihrer Wahl zur CDU-Vorsitzenden am 8. Dezember 2018 auf dem 31. Parteitag zu ihrem Nachfolger als Generalsekretär der CDU vor. Er wurde daraufhin als einziger Kandidat mit 62,8 Prozent der Delegiertenstimmen gewählt. Er war damit das erste aktive Mitglied der Jungen Union, das direkt in diese Funktion bei der Bundespartei wechselte. Seit dem 11. Dezember 2018 ließ Ziemiak seine Aufgaben als Bundesvorsitzender ruhen. Mit der Wahl seines Nachfolgers Tilman Kuban endete seine Zeit als Bundesvorsitzender der Jungen Union im März 2019 endgültig.