吐蕃时，累拜右领军大将军，为积石道经略大使。吐蕃论钦陵等率众十万人进攻湟中，李谨行以空城计待之。吐蕃疑有伏兵，不敢进。676年，于青海又破吐蕃数万众，唐高宗授其为镇军大将军，行右卫大将军，封燕国公。永淳二年（683年）七月二日去世于鄯州河源军，年六十四，追赠幽州刺史，陪葬干陵。夫人临汾郡夫人傅氏，春秋六十有一，垂拱元年（685年）七月十七日陪葬于干陵。有子李思敬。