赵匡胤建立宋朝，沈义伦由归德军（宋州）观察推官升为户部郎中。较关心民间疾苦，961年沈义伦出使吴越时，途经淮南扬州、泗州，见饥荒、饥民饿死，他回朝请宋太祖下诏赈济淮南。建隆三年（962年）十一月，沈义伦升给事中。干德元年（963年），沈义伦改任陕西转运使。干德二年（964年）十一月，宋攻后蜀，沈义伦为随军转运使。宋朝灭后蜀后，诸将贪暴，只有沈义伦和都监曹彬清廉。干德五年（967年）八月，在曹彬的推荐下，沈义伦升任户部侍郎、枢密副使。开宝二年（969年）二月，宋太祖亲征北汉，沈义伦辅佐赵光义留守东京。他为