称赞李憕和临河县县尉郑岩，张说于是就把女儿嫁给郑岩，妹夫阴行真的女儿嫁给李憕。等到张说出任并州长史、天兵军大使，将李憕招纳在幕府之中。开元九年（721年），张说回朝担任宰相，李憕又担任长安县县尉。当时宇文融担任御史，检查全国的田地户口，上奏推荐知名人士崔希逸、咸廙业、宇文顺、于孺卿、李宙、李憕为判官，代理监察御史，分路检查，因为考察合格一起升任监察御史。李憕后历任兵部郎中、吏部郎中、给事中，他有做官的才干，通晓文案，很有称职的名声。开元二十八年（740年），李憕担任河南少尹，当时萧炅为河南尹，依仗权贵，