曹操定荊州，聞其為張羡謀也，異之，辟為丞相掾主簿，遷趙郡太守。魏國初建，為虎賁中郎將、侍中。時世子未定，而臨菑侯植有寵。階數陳操曹丕之德，公規密諫，前後懇至，於是操知階篤於守正，深益重焉。又毛玠、徐奕為西曹掾丁儀所不善，儀屢言其短，賴階左右以自全保。其將順匡救，多此類也。遷尚書，典選舉。曹仁為關羽所圍，操遣徐晃救之，不解。操欲自南征，以問群下。群下皆曰不宜行。階獨曰：「大王以仁等為足以料事勢不也？」曰：「能。」「大王恐二人遺力邪？」曰：「不。」「然則何為自往？」曰：「吾恐虜眾多，而晃等勢不便耳。」階曰：「今仁等處重圍之中而守死無貳者，誠以大王遠為之勢也。夫居萬死之地，必有死爭之心；內懷死爭，外有強救，大王案六軍以示餘力，何憂於敗而欲自往？」操善其言，駐軍於摩陂，賊果為晃等所敗。