元初名臣。祖居沙河盖里，出生于河南邓县。父张英，曾为邢州军资库使。文谦幼年聪敏，善于记诵，长大后不愿仰衣食于父母，打算学习吏事，为其父阻止，后专志于儒学，与太保刘秉忠同学，并同刘秉忠、张易、王恂、郭守敬合称为“邢州五杰”。元宪宗元年由刘秉忠推荐进入忽必烈幕府，当时忽必烈受邢州分地，邢州地处要冲，各种赋役繁重，百姓难以忍受。文谦谏以整饬邢州吏治。入元，担任中书省中书左丞、宣抚使、大司农卿，以及枢密院枢密副使，并参与制定授时历。为人刚明简重，深受元世祖忽必烈器重。