Yang Hyong-sop trat während des Koreakrieges im Juni 1950 in die Koreanische Volksarmee ein und absolvierte nach Kriegsende ein Studium an der Kim-Il-sung-Universität. Nach Abschluss des Studiums war er zunächst Leiter einer Sektion im ZK der PdAK, ehe er Sekretär des ZK wurde. Yang, der mit Kim Shin-sook, einer Cousine von Kim Il-sung verheiratet ist, absolvierte ein weiteres Studium an der Lomonossow-Universität in Moskau und wurde nach seiner Rückkehr im Oktober 1961 Direktor der Parteischule des ZK der PdAK.