以非宗教手段宣誓，并在1830年废除债务监禁制度。此时他的大部分法律业务都已转移到水牛城，同年又把家搬来此地。1831年，他没有再竞选连任。菲尔莫尔的律师事业同样风生水起。水牛城此时正急剧扩张，从英国人在1812年战争期间引发的火灾中逐渐恢复，成为伊利运河的西线终点站。伊利县以外的案件卷宗开始堆上他的办公桌，迁居水牛城前，菲尔莫尔就已是当地知名律师。他与东奥罗拉工作期间聘请的法律助理内森·霍尔（）成为终生挚友，霍尔与菲尔莫尔在水牛城合伙经营律师事务所，菲尔莫尔当上总统后还请霍尔出任美国邮政总局局长。菲尔