1991年1月，任江苏省农业资源综合开发管理局资源综合开发管理处处长。1996年3月，任江苏省农物业资源开发管理处处长，1997年6月，任江苏省农业资源开发局副局长、党组成员。2000年6月，任江苏省农业资源开发局副局长、党组副书记。2001年6月，任江苏省农业资源开发局局长、党组书记。2004年3月，40岁的缪瑞林来到地方工作，任宿迁市委副书记、副市长。2006年4月，任宿迁市委副书记、代市长，2007年1月当选宿迁市人民政府市长。2011年4月任宿迁市委书记，2012年1月当选宿迁市人大常委会主任。