瑞澂少年时纨绔成性，与劳子乔、岑春煊并称“京城三恶少”。后受家荫为贡生，入刑部任笔帖式、主事，后升任户部员外郎。1906年外放，任江西九江道台，有官声，遂调任上海道道尹，负责与各国交涉。任内奉命在辖境内禁绝鸦片，即建立警察部队。1908年升任江西按察使，旋即调任江苏布政使。后任苏州、松江、太仓、杭州、嘉兴、湖州六地清乡总办，向外国购买军舰，编成内河水师，一举击溃盘踞太湖一带的水贼，擒获匪首夏竹、林声为。宣统元年（1909年），与时任两江总督端方不睦，上表称病，乞求辞官，清廷慰留。但总督端方惜其才，