白失去了平定河北的最佳机会。辛毗最终说服曹操，翌年曹操攻打袁尚据守的邺，攻克后表辛毗为议郎，辛毗就此跟随曹操。后来，曹操遣都护曹洪平定下辩（汉中之战），命辛毗和曹休参战，战事结束后，升辛毗为丞相长史。次年，魏文帝即位后辛毗迁任侍中，赐爵关内侯。后作为曹真的大将军军师，征朱然，回军后，进封广平亭侯。魏明帝即位后，进封辛毗为颍乡侯（属本郡颍阴县），赐食邑三百户。后出任卫尉。青龙二年（234年）诸葛亮率兵伐魏，大将军司马懿数度奏请明帝出战抵抗，但明帝不从，以辛毗为大将军军师，持节。史载司马懿曾数度欲进