Byen ble grunnlagt etter dekret av tsar Mikhail I av Russland. Den ble opprinnelig bygget som en grensefestning mot Krim-tatarene, men Tambov fikk raskt mindre betydning som en militær utpost av Storfyrstedømmet Moskva, og ble i stedet et administrativt og handelssenter for en stort sett landlig region i Keiserdømmet Russland.