公是那么忘掉错对的人，怎么可能会舍弃我们呢？”第二天，曹操果然发出撤军令。张辽以臧霸之言告诉曹操。曹操对臧霸加以赞扬，拜为扬威将军，假节。曹操无法打败孙权引大军还师，后来孙权请降，便留臧霸与夏侯惇等屯居巢。
曹魏时期.黄初年间。曹丕即王位时，臧霸迁镇东将军，进爵武安乡侯，都督青州诸军事。曹丕称帝后，进封开阳侯，徙封良成侯。后来臧霸与曹休伐吴，破吕范于洞浦。曹丕征臧霸为执金吾，加特进，夺取其兵权，结束了其身为地方豪强事实半独立的状态。每有军事要务，曹丕都常咨访臧霸。明帝曹睿即位后