在约四五千年前的新石器时代晚期，今肥城市内即有人居住，该遗址据大汶口遗址不远，属大汶口文化晚期，也有一些龙山文化特征。此后先后出现了王晋、贾北等龙山文化遗址和东焦、蝎子城、小王村等商周文化遗址。据史籍记载，夏朝时期，遂国建立；殷商时期，今肥城属青州、徐州一带。西周时期属兖州，封铸国于今肥城、宁阳一带。公元前681年遂国被齐国占领，四年后因反齐起义而彻底灭亡，前六世纪中叶后，铸国不知所踪，此后肥城分属齐鲁两国管辖，并成为齐鲁拉锯的前沿，双方反复争夺汶水北岸盛产粮食的“汶阳田”，齐国还在肥城北境修筑齐长城。