Die Ortschaft wurde erstmals im 16. Jahrhundert erwähnt und war zunächst Teil Polens bzw. des ukrainischen Kosakenstaates. 1773 erhielt Smila das Magdeburger Stadtrecht. Nachdem die Stadt nach der dritten polnischen Teilung 1795 zum Russischen Reich gekommen war, begann ab den 1830er Jahren die industrielle Entwicklung der Stadt. Eine wichtige Rolle spielte dabei der Graf Alexej Alexejewitsch Bobrinskoj (russisch ), der Enkel von Katharina II. von Russland, welcher 1838 eine Zuckerfabrik und 1840 eine mechanische Werkstatt gründete. Die wirtschaftliche Entwicklung verstärkte sich mit dem Anschluss ans Eisenbahnnetz im Jahr 1876. In der ersten Hälfte des 20. Jh. wurde die Entwicklung Stadt durch die beiden Weltkriege und die Hungersnot von 1932 stark behindert. Erst nach dem Wiederaufbau konnte Smila wieder eine Aufschwungphase erleben. Dies änderte sich aber mit dem Zerfall der Sowjetunion und der darauf folgenden Wirtschaftskrise. So sank die industrielle Produktion zwischen 1990 und 2000 um über 70 %. Parallel dazu verlor Smila mehr als 10 % der Bevölkerung. Seit 1996 unterhält die Stadt eine Städtepartnerschaft mit der US-amerikanischen Stadt Newton, Iowa und mit Rschew.