很聪明敏达，由明经入官，开元初年担任咸阳县县尉，当时张说从紫微令、燕国公外任相州刺史、河北按察使，有个叫刘行的擅长相面，张说问他说：“官员中以后谁会显贵通达？”刘行称赞李憕和临河县县尉郑岩，张说于是就把女儿嫁给郑岩，妹夫阴行真的女儿嫁给李憕。等到张说出任并州长史、天兵军大使，将李憕招纳在幕府之中。开元九年（721年），张说回朝担任宰相，李憕又担任长安县县尉。当时宇文融担任御史，检查全国的田地户口，上奏推荐知名人士崔希逸、咸廙业、宇文顺、于孺卿、李宙、李憕为判官，代理监察御史，分路检查，因为考察合格一起升任监