Происходил из семейства крестьян. В 15-летнем возрасте сдал экзамены на первую конфуцианскую степень, и до 1895 года осуществлял обыкновенную в старом Китае карьеру учёного-чиновника. Служил в Академии Ханьлинь и в штабе войск Юань Шикая во время пребывания цинского экспедиционного корпуса в Корее (1882—1884). На дворцовых экзаменах 1894 года удостоился высшего отличия и степени . После поражения в японо-китайской войне, подал в отставку и вернулся на малую родину. В 1899 году основал хлопкопрядильную фабрику, финансируемую как местными купцами, так и государством; производство осуществлялось на американском оборудовании. Фабрика стала «ядром» современного индустриального кластера, включающего мельницу, маслобойку, спиртовый и шёлкоткацкий заводы, работающие на сырье, производимом на месте. Прибыль вкладывалась не только в основной капитал, но и в просвещение. Чжан Цзянь основал больницу, множество учебных заведений, дом для престарелых, школу для инвалидов и один из первых в Китае музеев. В 1903 году посетил Японию, сделавшись энтузиастом железнодорожного строительства и конституционных реформ. В 1908 году был делегатом временного конституционного собрания в Нанкине, в родном уезде основал совещательное собрание и органы самоуправления.