Foi fundada no final do século XIV e o chamado Iaroslavets. Em 1485, a cidade foi anexada pelo Grão-Ducado de Moscou e renomeada Maloiaroslavets para distingui-la de Iaroslavi. Durante a invasão francesa da Rússia, a Batalha de Maloiaroslavets teve lugar perto desta cidade, em outubro de 1812. A batalha foi comemorada com uma ampla catedral construída na Ilha Negra (Chyornoostrovsky) em 1843.