Poročila o Kimovem zgodnjem življenju se razlikujejo. Po navedbah Fyodorja Tertitskega iz NK News se je leta 1928 rodil Kim Myong-sam v korejsko-kitajski družini v vasi Dapu Shihe v Mandžuriji v današnji kitajski provinci Liaoning. Med korejsko vojno je s Kitajsko ljudsko prostovoljno vojsko prišel v Severno Korejo in se odločil ostati. Tik pred koncem vojne leta 1953 je odšel na študij v Sovjetsko zvezo. Njegove izkušnje z ZSSR in Kitajsko so ga vodile na področje zunanjih zadev. Leta 1956 je postal vodja oddelka na zunanjem ministrstvu Centralnega komiteja Korejske delavske stranke in je bil do leta 1962 podpredsednik ministrstva.