Ab Mitte der 1950er Jahre vollzog die HA II eine Reihe von Strukturveränderungen. Als Reaktion auf demokratische Reformbewegungen in Ungarn (im Vorfeld des Volksaufstandes 1956) intensivierte das MfS seine Zusammenarbeit mit den Geheimdiensten anderer sozialistischer Staaten. Hierfür wurde eine eigene Abteilung gegründet. Die für die westdeutschen Geheimdienste zuständige Abteilung 4 wurde im Januar 1958 in separate Abteilungen für Bundesnachrichtendienst und Verfassungsschutz aufgeteilt. Die Leitung der HA II übernahm ab Februar 1960 Werner Grünert.