最初担任调秘书省校书郎，因“谤议上闻”退职返乡。703年，前凤阁舍人张说“忤旨配流钦州”，途经曲江，与张九龄通族谱，叙为昭穆（另一种说法是722年张说拜相后，但703年左右二人认识是确定的），从此张九龄自称范阳张氏，其祖先张守礼出自东汉司空张皓、西晋司空张华（详见张九龄本人为张说所作墓志铭），是其曾祖张君政任韶州别驾死任上才家于曲江的，但死后则称西汉留侯张良、西晋司空张华之后，而其弟张九皋则称西汉张良、张安世之后。其高门的身份并不被当时的大部分人承认，包括唐玄宗。713年，应“道侔伊吕科”举，中高第