Fra 5. september 1998 til 11. april 2019 var han leder i presidiet i Den øverste folkeforsamlingen. Han ble etterfulgt av Choe Ryong-hae den 11. april 2019. I denne rollen fungerer han i praksis som statssjef, selv om presidentstillingen formelt innehas av den avdøde Kim Il-sung. Fra 2010 er Kim Yong-nam også medlem av politbyråets stående komité i Koreas arbeiderparti, hvor landets reelle makt er konsentrert. Han har vært medlem av politbyrået siden 1980.