Rozbudowę fortyfikacji obronnych na wzgórzu Borowickim w Moskwie rozpoczął książę Jurij Dołgorukij w 1156 r. Powstał wówczas pierwszy drewniany fort z palisadą, który jednak wkrótce został spalony podczas najazdu mongolskiego. Fortyfikacje Kremla, jak i cała Moskwa, były w trakcie wieków wielokrotnie niszczone przez najazdy mongolskie, litewskie oraz przez pożary. W 1339-1340 książę moskiewski Iwan I Kalita zbudował większą, dębowo-ziemną cytadelę, o murach grubości od 2 do 6 m i wysokości powyżej 7 m. Pierwsze kamienne mury wzniesiono za panowania Dymitra Dońskiego w latach 1367-1368, korzystając z surowca z pobliskiego kamieniołomu Miaszikowo. Charakterystyczna barwa kamienia spowodowała, że od tego czasu Moskwę nazywano „białym miastem”, „białą Moskwą”, o czym wspomina hetman Stanisław Żółkiewski. Dzięki nowym murom Moskwa skutecznie przetrwała oblężenie przez wojska litewskie wielkiego księcia Olgierda w 1370 roku. Nowy etap w rozbudowie fortyfikacji Kremla rozpoczął się 1485 roku, od kiedy do budowy i modernizacji carowie zaczęli angażować architektów włoskich: pierwszym z nich był pochodzący z Vicenzy Antonio Gilardi, kolejnymi Aristotele Fioravanti, Pietro Antonio Solari, Marco Ruffo. Wówczas też do rozbudowy fortyfikacji zastosowano na dużą skalę cegły. Choć od tego czasu umocnienia kremlowskie wielokrotnie przebudowywano i odnawiano, zasadniczo zachowały one nadaną im w XV–XVI w. formę i styl. Kolejni władcy rozbudowywali umocnienia i odbudowywali zniszczenia powodowane przez oblężenia i pożary.