Zhang fikk raskt ry som en stor vitenskapsmann og trådte i en alder av 38 år inn i regjeringens tjeneste. Han gjorde raskt karriere og ble under keiser Liu Hu minister og sjefsastronom. I 123 innførte han på keiserens vegne en kalenderreform, som hadde som mål å restituere månedene med årstidenes gang.