先后任渑池县长和凌仪县令，及后更入朝任尚书郎。此时有政令要裁汰朝中郎官，能力不足以担当的人就要遭罢免，魏舒竟说：「我就是这些人。」就是被裁出，更令一些无称誉的同僚感到惭愧，魏舒此举更获当时议论者称许。魏舒后来又任后将军钟毓的长史。后又转任相国司马昭的参军，封剧阳子。魏舒在处理府内庶务都没有是非之事；而官吏升黜的大事，有时众人都不能下决定，而魏舒却可以作出出人意表的计划。司马昭都对他十分器重。后魏舒任宜阳和荥阳二郡太守，甚有声誉，因而获侍中任恺提拔为散骑常侍，后出任冀州刺史，在任三年族政宽大仁惠，甚有称誉