In 1514 werd Smolensk ingenomen door Vasili III van Moskou. Om deze gebeurtenis te eren, werd in Moskou het Novodevitsji-klooster gesticht, dat aan de icoon van de Madonna van Smolensk is gewijd. Tsaar Boris Godoenov versterkte de stad laat in de 16e eeuw om de Polen en Litouwers terug te dringen. Het stenen kremlin, gebouwd tussen 1597 en 1602, is het grootste van Rusland, met opmerkelijk dikke muren en vele wachttorens. Desondanks werd de stad in 1611 door het Pools-Litouwse Gemenebest ingenomen na een 20 maanden durende belegering, bekend als de Beleg van Smolensk. In 1632 probeerde Moskou Smolensk weer in te nemen tijdens de Smolenskoorlog, maar de Russische troepen werden verslagen door Władysław IV van Polen, hetgeen tot het Verdrag van Poljanovka in 1634 leidde. In 1654 werd Smolensk weer ingenomen door de Russen, nadat het Pools-Litouwse gemenebest zwaar te lijden had gehad van een burgeroorlog (Chmelnytsky-opstand) en een invasie van Zweden (Zweedse Zondvloed).