吏部尚书。黄初五年（224年）曹丕出巡到广陵，卫臻以行中领军身份跟从。当时征东大将军曹休从降兵得知孙权在濡须口的情报，向曹丕报告，但卫臻认为孙权以长江为天险，未敢越江进攻，推测这只不过是假消息用以威吓魏国军民。后来经查証，果然是东吴发布的假消息。曹叡继位后，封康乡侯（属颍川郡阳城县）。后来转任尚书右仆射，掌选举事，亦加侍中。太和二年（228年），蜀汉丞相诸葛亮发动诸葛亮北伐，卫臻建议遗兵入散关捣截蜀军的运粮道路，明帝採纳并任命他为征蜀将军，假节督诸军事，到长安时诸葛亮撤退。回朝复职，并加光禄大夫