王乂的人却认为魏舒将会身居三公宰辅之位，频频接济贫困的他。魏舒四十多岁时获任城郡上计掾察为孝廉，宗族朋友都认为他不修学业，劝他不要应命，这样更可以有高士之名。但魏舒坚持要去，自此开始自修，一百天就读完一经，最后在对策中通过考核，获命任官。后先后任渑池县长和凌仪县令，及后更入朝任尚书郎。此时有政令要裁汰朝中郎官，能力不足以担当的人就要遭罢免，魏舒竟说：「我就是这些人。」就是被裁出，更令一些无称誉的同僚感到惭愧，魏舒此举更获当时议论者称许。魏舒后来又任后将军钟毓的长史。后又转任相国司马昭的参军，封剧阳子