郎同中书门下平章事。734年，迁中书令，集贤院令知院事兼修国史。曾劾安禄山野心，提醒玄宗注意。735年3月，加金紫光禄大夫，累封始兴县子。736年秋八月天长节，玄宗生日，群臣皆献珍罕，独张九龄上事鑑十章以伸讽谏，号「千秋金鑑录」，帝甚嘉美。张九龄提拔王维为右拾遗，卢象为左补阙。由于李林甫、牛仙客等人结党，张九龄失去唐玄宗的信任，改任尚书右丞相，罢知政事。在主政期间，张九龄主张不循资格用人，为人好名不好利（李林甫刚好相反），敢于谏言，不避利害。737年，太子李瑛被废。同年，张九龄因所举荐的监察御史周子