La prima menzione di Smila è risalente al XVI secolo, quando la città faceva parte della Confederazione Polacco-Lituana. Negli anni che intercorrono tra il 1648 e il 1654 Smila fu sede di uno squadrone di Cosacchi che facevano capo al reggimento stanziato a Čyhyryn. Nel 1773 la città ottenne il Diritto di Magdeburgo e, nel 1795, fu annessa all'Impero Russo. Smila vide incrementare il proprio sviluppo industriale e demografico dopo l'apertura di una ferrovia all'interno del proprio territorio nel 1876. Nel XX secolo, come le città circostanti, fu devastata dalla I e dalla II Guerra Mondiale, dall'Holodomor e dalla depressione economica seguita al crollo dell'Unione Sovietica. Negli anni novanta la produzione industriale crollò infatti del 70% e Smila perse più del 10% della propria popolazione. Negli ultimi anni la città ha invertito il trend ed oggi l'economia è nuovamente in crescita.