Sevsk var en av de opprinnelige byene i Severia, og var en del av Fyrstedømmet Tsjernigov fra 1146. I 1356 ble den innlemmet i Storhertugdømmet Litauen. Sevsk ble til slutt annektert av Storfyrstedømmet Moskva i 1585, og ble en russisk grensefestning. I 1634 motsto byen en tre uker lang beleiring av den polske arme.