军镶黄旗人。康熙末年捐光禄寺典簿，雍正初年为楚雄府知府，张允随被云贵总督鄂尔泰赏识，推荐他为云南巡抚。主持云南铜厂矿务，产铜大增，足够铸钱，朝廷停购洋铜。干隆二年（1737年），署理云贵总督，当时为大规模改土归流之后，张允随整顿吏治，兴建学校，疏浚金沙江和洱海。干隆十五年（1750年）正月，张允随被干隆帝授为东阁大学士。十六年（1751年）三月张允随去世，谥号文和。