Choe Ryong-hae ble født 15. januar 1950 i Sinchon i provinsen Sør-Hwanghae. Han er sønn av Choe Hyon som kjempet sammen med Kim Il-sung som geriljasoldat tilknyttet Den nordøstlige anti-japanske arme i Mandsjuria etter Japans okkupasjon i 1931. Choe Hyon fungerte senere også som forsvarsminister i Nord-Korea. Choe Ryong-hae tilhører dermed andre generasjons revolusjonære, noe som gir høy status blant nordkoreanerne. Han gikk inn i Den koreanske folkearmé i 1967, og han har studert politikk og økonomi ved Kim Il-sung-universitetet.