在冯翊郡任小吏，后来多次升迁，并举孝廉。曹操任司空后，辟命张既，还未上任，又举茂才，任新丰令，任内新丰在三辅之中治理得最好。后来，袁尚在黎阳抵抗曹操，并且命河东太守郭援、并州刺史高干及匈奴单于攻取平阳，并且派使者与关中一众将领联络，希望他们响应。司隶校尉钟繇为阻止关中诸将兴兵响应，于是派张既向马腾等关中将领游说，张既向他们陈说利害得失，马腾于是听从，又派儿子马超领一万多兵与钟繇联合攻击郭援和高干。最终郭援等大败，郭援被斩杀，高干和匈奴单于都投降。建安十年（205年），高干再次举并州反抗曹操，张晟、卫固和张琰