魏相,字弱翁,济阴定陶人,后来迁徙到平陵。魏相年轻时学习《易》,做郡里的卒史,被举为贤良,因为对答策问名次在前,做了茂陵县令。不久,御史大大桑弘羊的宾客来到茂陵,诈称桑弘羊要到客舍来了。县丞没有按时去谒见这个宾客,他就把县丞绑了起来。魏相怀疑宾客有奸诈,就把他逮捕拘押,审讯他了解到了他的罪行,判决这个宾客在街头处死,因此茂陵治理得非常好。
后来魏相迁升为河南太守,禁止坏人恶事,地方豪强十分畏服。正巧这时丞相车千秋死了,此前车千秋的儿子做雒阳兵器库的长官,他自己看到父亲死了,而魏相治理郡事十分严峻,恐怕时间长了会受罪责,于是就自己辞了官。魏相派佐助自己的掾属追去喊他回来,终于没有回来。魏相自己遗憾地叹道:“大将军听到这个武库令辞了官,一定会以为我是因为丞相死了而不礼遇他的儿子。假使那些当世的权贵责备我,危险啊!”车千秋这个做武库令的儿子到了长安,大将军霍光果然因此责备魏相说:“年幼的新皇帝刚刚即位,认为函谷关是保卫京城最坚固之处,武器库是精良的兵器聚藏的地方,所以让丞相的弟弟做函谷关的都尉,丞相的儿子做武器库的长官。现在河南太守魏相不深切思考国家的大计,只是看到丞相死了就斥逐他的儿子,这是多么浅薄啊!”后来又有人状告魏相杀戮无罪的人,这事下到了主管的官署。河南戍卒中的都官共二三千人,阻拦大将军霍光,自己说愿意再留守一年来赎太守魏相的罪。河南的老弱百姓一万多人守着函谷关要求入关向皇帝上书,守关的官吏把这事上报。大将军霍光因为武库令的事,于是就把魏相交给廷尉治罪。魏相被关在监狱里很久,过了冬天,正巧碰上朝廷赦免犯人而被释放。
几年后,宣帝即位,征召魏相进入朝廷做大司农,后来又升迁为御史大夫。宣帝四年,大将军霍光死了,皇帝思念他的功劳与德行,让他的儿子做右将军,让霍光的侄子乐平侯又掌领尚书省事务。魏相通过平恩侯许伯向皇帝上书,说:“现在霍光死了,他的儿子又做了大将军,他哥哥的儿子做尚书掌握政要,他家的兄弟女婿们掌有兵权,很有权势。霍光的夫人显和他们家的女眷都在长信宫有名籍,可以自由出入,有的夜里从禁门出入,骄横奢侈,放纵不羁,恐怕将来会慢慢的无法驾驭控制了。应该想法削弱他们的权势,打消他们的阴谋,来强固大汉万世的基业,也使功臣霍光的声名得以保全。“另外按过去的规定凡上书给皇帝的人都要把奏书写成二份,其中一份为副本,掌领尚书省事务的官员先开阅副本,如果奏书的内容不当,就搁置起来不上报皇帝。魏相又通过许伯,抽去了副本,以避免皇帝受到蒙蔽。宣帝看了魏相的奏书认为很好,诏令封魏相为给事中,完全采纳了魏相的奏议。霍氏谋杀许太后的事才被皇帝知道了。于是就罢免了霍氏三人的侯的封号,命令他们回到宅第,他们的亲属被迁出补为官吏。在这个时候韦贤因为年老有病免去丞相职务,魏相于是代替韦贤做了丞相,并被封为高平侯,赐食邑八百户。到后来霍氏的人怨恨魏相,又畏惧他,打算假称太后有诏令,先把丞相魏相召来杀了,然后废黜天子。事情被发觉,霍氏的人被杀了。宣帝才开始亲自处理朝廷政事,励精图治,选择贤臣,考核名实,魏相作为丞相,总管各官署的事务,很得皇上的欢心。魏相喜欢观看汉朝旧事和大臣处理事务的奏章,认为现在与过去制度不同,现在要做的是奉行过去的旧例罢了。因此他多次条陈汉朝建国以来处理事情的妥善方法,以及贤臣贾谊、晁错、董仲舒等人的言论,奏请皇帝予以施行。
魏相命令掾史查访各郡国的事务以及从家襄休沐回到官府,就禀报各处的异闻奇事,有时有反叛的贼寇和自然灾害变故,郡守不上报,魏相总是向皇帝上奏说明情况。当时丙吉是御史大夫,与魏相同心辅佐皇帝,皇帝十分看重他们。