应该继承父业，但幼子袁尚的支持者伪造遗命宣布袁尚为继承人。袁谭怀恨，在与袁尚联手击退曹操后于203年反叛袁尚。袁谭想夺取袁氏大本营邺城，但袁尚击败围城军队并将他们驱赶至六百里外的勃海郡郡治南皮。南皮在青州北面，而袁谭在父亲生前为青州刺史。他在那里与老部下王修、管统等会合，但也有一些人在刘询带领下起事背叛他。故袁谭在南皮立足不稳。202年秋，曹操对南方的袁绍盟友刘表开战，这也是其让袁氏兄弟自行内耗的战略的一部分。趁曹操军不在，袁尚进军南皮，败袁谭。袁谭南奔青州平原。青州虽是袁谭的旧辖区，却正被曹操部将臧霸