之侄。幼嗜学，夜读必尽烛二条。嘉庆四年（1799年）进士，官刑部山西司主事，授甘肃灵台知县，改任江苏宝应知县，后任陕西乡试同考官、署泾州直隶州，调张掖知县，擢河州知州、署肃州直隶州，调补丹噶尔厅同知。道光六年（1826年）平新疆张格尔。卒于甘肃任所。与王引之、张惠言、姚文田友好。秉虔长于训诂之学，胡匡衷、胡秉虔、胡培翚三代祖孙齐攻三礼，为世所重。着有《毛诗集释》、《毛诗序录》四卷、《论语小识》八卷、《绳轩读经记》、《周易小识》八卷、《卦本图考》、《尚书序录》、《周礼小识》、《古韵论》、《汉西京博士考》二