Kotovsk ble grunnlagt før andre verdenskrig som en bosetning for arbeidere som var engasjert i forbindelse med byggingen av en kruttfabrikk. Til å begynne med var den en del av Tambov kalt (russisk: Порохово́й Заво́д, oversatt: ). Bydelen ble etter hvert omgjort til en egen by kalt (russisk: Кра́сный Боеви́к, oversatt: ). I 1940 fikk stedet bystatus og fikk samtidig også nytt navn, Kotovsk, etter Grigorij Kotovskij (1881–1925), som hadde slått ned et antisovjetisk bondeopprør i Tambov i 1921.