清祖上原籍湖北省通山县西泉畈。干隆中期，祖父举家迁徙至陕西省山阳县董家沟。吴怀清生而岐嶷精明，次年太平军扶王陈德才攻陷山阳，“道人方襁褓，匿岩洞噤不得啼，如是者数年”。故终身不爱言谈，口齿呐呐。光绪十六年（1890年）庚寅科二甲进士，同年五月，改翰林院庶吉士。光绪十八年五月，散馆，授翰林院编修。入国史馆，“终日低头伏案，不曾有高谈雄辩，炫异同人”。光绪二十九年（1903年）出任山东乡试副考官。宣统二年（1910年）任翰林院秘书郎、资政院议员等，赏戴花翎。1914年撰《清史稿》之〈地理志〉陕西一卷、〈食货志〉