（193年），曹操父亲曹嵩于泰山为陶谦所害，为报父仇，曹操攻打陶谦。攻陷十余城，于彭城大战。陶谦兵败，死者万数，泗水为之不流。陶谦退守郯城。曹操久攻不下因缺粮撤军。陶谦将曹豹与刘备屯兵郯城东以防曹操。兴平元年（194年），曹操再次攻打陶谦，攻陷瑯琊、东海诸县。陶谦欲退回老家丹阳。曹操因张邈叛迎吕布而被迫回击。陶谦于同年病死。临终前嘱託别驾麋竺让帮忙协防的刘备主事徐州牧。建安元年（196年），袁术来攻刘备，战于盱眙、淮阴数月，留张飞防守下邳城。下邳相曹豹为陶谦故将与张飞内斗，曹豹兵众坚营自守，使人招吕