失修堰堤损坏，致使江淮漕运不通，开元二年（714年），李杰上奏征调汴州、郑州一带的丁男加以修复整治，节省功夫而且很快完成，官府和百姓都深感便利，于是在水滨树立石碑，记载李杰的功绩。
御史大夫任内.不久，李杰被征入朝代替宋璟担任御史大夫，尚衣奉御长孙昕因为琐事一向厌恶李杰。开元四年春正月癸未（716年2月3日），李杰前往里坊中看望姨母，他的随从留在门口，长孙昕和妹夫杨仙玉与二十多人并列骑马穿行于大街上，就让奴仆殴打李杰的随从。李杰出来对他们进行了制止，长孙昕仗着自己是唐玄宗皇后的妹夫