潍县东乡（今潍坊市寒亭区河滩镇小东庄村），干隆五十年(1785年)，祖父于龙川携眷逃荒，到吉林伯都纳厅（现吉林省榆树县黑林镇太平川屯）落户。
生平.于荫霖为咸丰九年（1859年）已未科进士。选庶吉士。同治元年（1862年），任翰林院编修。光绪八年（1882年），授湖北荆宜施道。十一年（1885年），任广东按察使，次年任云南布政使，因丁母忧未成行。十六年（1890年）除服后授福建台湾布政使。二十一年（1895年）又署云南布政使。二十五年（1899年）补任安徽布政使，未至又调任湖北巡抚