。后来臧霸与曹休伐吴，破吕范于洞浦。曹丕征臧霸为执金吾，加特进，夺取其兵权，结束了其身为地方豪强事实半独立的状态。每有军事要务，曹丕都常咨访臧霸。明帝曹睿即位后，太和年间增臧霸邑五百户，并前三千五百户。太和四年八月辛巳日（230年8月31日），获得行太尉事以特牛祠中岳的受禅坛。不久逝世，追谥曰威侯。其子臧艾嗣任。《魏书》称臧艾「少以才理称，为黄门郎，历位郡守。」臧艾官至青州刺史、少府。死后谥恭侯。其子臧权嗣任。臧霸前后有功，封其子三人为列侯，赐一人爵关内侯。臧霸其中一子臧舜，字太伯，为晋朝散骑常侍。《武