Kolomna ble første gang nevnt i 1177 som en grensepost for Fyrstedømmet Rjazan. I 1301 ble den innlemmet i Storfyrstedømmet Moskva. Mellom 1200- og 1500-tallet ble byen gang på gang angrepet av Den gylne horde og ble ødelagt flere ganger. I 1385 ble Kolomna uventet erobret av Rjazan-fyrsten Oleg, men den havnet etter få år tilbake under Moskvas herredømme. Under den store konfrontasjonen ved Ugra var byen støttepunkt for hæren til Storfyrstedømmet Moskva under Ivan III. Mellom 1525 og 1531 ble det oppført en massiv kreml av stein i Kolomna. På grunn av det nye festningsanlegget vokste byens strategiske betydning. På 1500-tallet tjente Kolomna regelmessig som samlingspunkt for de russiske troppene for krigstogene mot tatarene. I Russlands urolige tider på begynnelsen av 1600-tallet var Kolomna besatt av polske styrker.