Początki budowy KWŻD sięgają lat 90. XIX wieku. W maju 1895 roku, jeszcze na rok przed uzyskaniem zgody Chin, Rosjanie wysłali na teren budowy dwie grupy inżynierów, z zadaniem wytyczenia przebiegu przyszłej kolei. Jedna ekspedycja opracowała tzw. wariant północny, który ostatecznie został zatwierdzony do realizacji. Według niego kolej miała przebiegać przez miasta Acheng, Hulan i Qiqihar i schodzić w dolinę rzeki Yalu Jiang. Początkowo budowa kolei spotkała się z oporem władz chińskich, ale wskutek rosnącej potęgi Japonii i dominacji Wielkiej Brytanii na Dalekim Wschodzie, Rosja wydawała się naturalnym sojusznikiem, a w najgorszym wypadku – mniejszym złem. W maju 1896 r. w zamian za zgodę na budowę, Chiny otrzymały gwarancje militarne ze strony Rosji oraz pożyczkę, bez której nie mogłyby spłacić odszkodowań wobec Japonii po przegranej wojnie w 1895 r.