开元九年（721年），张说回朝担任宰相，李憕又担任长安县县尉。当时宇文融担任御史，检查全国的田地户口，上奏推荐知名人士崔希逸、咸廙业、宇文顺、于孺卿、李宙、李憕为判官，代理监察御史，分路检查，因为考察合格一起升任监察御史。李憕后历任兵部郎中、吏部郎中、给事中，他有做官的才干，通晓文案，很有称职的名声。开元二十八年（740年），李憕担任河南少尹，当时萧炅为河南尹，依仗权贵，处理政事多有不法之举，李憕以公正耿直来纠正他，得到众人的信赖。又有道士孙甑生以旁门左道谋求钱财，假托修炼功德，来往于嵩山，求请钱财无度