Nach seiner Entlassung arbeitete er bis Oktober 1945 als Landarbeiter in Westdeutschland und war dann bis März 1946 durch die britischen Besatzungsbehörden als Bergarbeiter im Ruhrgebiet dienstverpflichtet. Im April 1946 übersiedelte Zylla nach Thüringen, wo er Mitglied der Freien Deutschen Jugend und im Dezember 1946 der Sozialistischen Einheitspartei Deutschlands (SED) wurde. Von Mai 1946 bis November 1947 war er Praktikant im VEB Kammgarnspinnerei Eisenach und von November 1947 bis März 1948 als Holzfäller tätig. Im März 1948 wurde er als Organisationsleiter der SED-Stadtbezirksleitung Eisenach-West hauptamtlicher Parteifunktionär. Von August 1948 bis 1950 war er Referent für Betriebsgruppen und 1950/51 Leiter der Organisations- und Instrukteurabteilung der SED-Landesleitung Thüringen. Von November 1951 bis Dezember 1952 besuchte er die Parteihochschule „Karl Marx“. Anschließend fungierte er von Januar bis September 1953 als Leiter des Sektors Parteiaufbau und Statistik des ZK der SED. Von September 1953 bis März 1954 war er als Bevollmächtigter Instrukteur des ZK der SED im Kreis Altenburg zur Untersuchung des Aufstandes vom 17. Juni 1953 eingesetzt.