秦始皇二十二年（公元前225年），灭魏国，置砀郡（治砀县，县城在今河南商丘永城市芒山西麓），为三十六郡之一，在今砀山县境设下邑县。砀县东南有砀山（今属永城市），故名。汉王元年（公元前206年）四月，今县境仍设下邑县（治今砀山县城东1公里之毛李庄），属项羽西楚国（都彭城，今徐州市）砀郡（仍治故砀城）。汉高祖五年（公元前202年）正月，砀郡改属彭越的梁国（治今毛李庄）。六年春，砀郡归汉。十一年三月丙寅，砀郡改属刘恢梁国（都睢阳，今商丘市区南）。高后七年（前181年）二月，改属吕产的吕国。八年八月，改属梁国。