始皇统一六国后，废封建置郡县，滕县属薛郡。汉初，刘邦撤小邾置蕃县，汉武帝时，改滕县为公丘县。北魏撤销公丘县，设立阳平县。北齐把阳平、薛、合乡、昌虑、永兴、永福六县并入蕃县，并将沛、高平、南武阳等县的部分地区划归蕃县。
隋唐.隋开皇六年（586年）蕃县改名为滕县。开皇十六年（596年），改为滕郡。不久，又将滕郡改为滕县。唐太宗李世民，封其弟李元婴为滕王于此。其在滕期间，无心政务，奢于游玩，沉于歌乐，被当地人民弹告，被贬于洪州（即今日南昌），筑滕王阁并继续游乐。唐元和年间，县城东移