1701 brannten mehrere an der Stelle des heutigen Arsenals stehende Privatbauten bei einer Feuersbrunst ab, die einen beträchtlichen Teil des Kremls erfasst hatte. Die auf diese Weise freigewordenen Grundstücke kaufte der russische Staat auf, um dort auf Initiative Peter des Großen ein Zeughaus errichten zu lassen, das unter anderem zur Aufbewahrung von in Kriegen erbeuteten Waffen dienen sollte. Der 1702 begonnene Bau konnte jedoch, vor allem bedingt durch finanzielle Schwierigkeiten, erst 1736 abgeschlossen werden. Nur ein Jahr danach kam es im Kreml erneut zu einem Großbrand, der auch das neue Arsenal erheblich beschädigte. 1812 sprengten im Krieg gegen Napoléon die Franzosen Teile des inzwischen wiedererrichteten Arsenals, das 1828 schließlich abermals komplett erneuert wurde.