开宝九年（976年）十月，赵光义继位为宋太宗后，沈义伦为宋太宗避讳，改名沈伦。太平兴国四年（979年）二月，宋太宗亲征北汉和辽朝，沈伦为东京留守兼判开封府事，留守东京。太平兴国六年（981年）六月，首相薛居正去世，沈伦升为首相。九月，赵普因制造“金匮之盟”的故事，被宋太宗重新提拔为首相，沈伦再任次相。宋太宗和赵普诬称秦王赵廷美勾结次相卢多逊谋反前夕，沈伦不愿卷入政治斗争，上表求致仕。太平兴国七年（982年）四月，宋太宗以沈伦不能觉察卢多逊之罪，将他罢相。沈伦再上表请致仕，七月，以左仆射致任。雍熙四年（