在海上多次击溃海盗，获得清朝廷的嘉奖。1861年，曾国藩识其才干，在安庆延揽张入幕。张从而为曾从事“帮办营务”，功劳很大，很受曾的器重。曾曾在日记中赞张“工于制造洋器之法”。曾曾先让张巡视湘军的火药所，再巡视器械所，并委托他协助训练洋枪炮队。张并介绍容闳予曾国藩。1864年，为丁韪良的《万国公法》中文译本作序言，被丁评作：“展示了中国人在那个时代非常少见的对国际关系的理解能力”。收到清廷洋务派的器重，被沈葆桢延揽入幕，受聘福州船政局，担任总巡各厂，兼管洋务学堂。沈先让张负责海图，后委托张仿造西方