于庐邑，位于今天的合肥市区西北。“合肥”之名，最早出现在大文学家、史学家司马迁的《史记·货殖列传》中：“合肥受南北潮，皮革、鲍、木输会也”。秦汉之交，合肥正式建立“合肥县”，属九江郡。东汉末年群雄割据，合肥几经战乱，最终由曹操控制，并在此设立扬州刺史部，管辖曹操实际控制的扬州江北部分。曹操、孙权以及后来的魏吴两国曾在合肥交战多次，史称“合肥之战”。西晋属淮南郡。东晋在此安置汝阴（今阜阳市）侨民，因而改名汝阴县。刘宋设立南汝阴郡，治汝阴县。南齐改南汝阴郡为汝阴郡。萧梁设南豫州，治于汝阴，遂改合州。