谨慎，住房一直保持卑陋狭小。开宝六年（973年）八月，左仆射兼门下侍郎赵普被罢相，为河阳三城节度使。九月，枢密副使沈义伦、参知政事薛居正同日升为宰相（同中书门下平章事）。开宝九年（976年）十月，赵光义继位为宋太宗后，沈义伦为宋太宗避讳，改名沈伦。太平兴国四年（979年）二月，宋太宗亲征北汉和辽朝，沈伦为东京留守兼判开封府事，留守东京。太平兴国六年（981年）六月，首相薛居正去世，沈伦升为首相。九月，赵普因制造“金匮之盟”的故事，被宋太宗重新提拔为首相，沈伦再任次相。宋太宗和赵普诬称秦王赵廷美勾结次