，迁使持节、镇东将军、都督东北三夏州诸军事、西夏州刺史，增邑千户，改伯为公。大统六年（540年），宇文泰将他调到南方荆襄，授使持节、都督三荆、二襄、南雍、平、信、江、随、郢、浙一十二州诸军事，荆州刺史，东南道行台仆射，镇守荆州。侯景之乱时与杨忠共击柳仲礼于漴头，大破之，柳仲礼被俘。属下郑县县令泉璨，被百姓控告暴虐。长孙俭不对泉璨治罪，反而肉袒自罚。在荆州七年，深得百姓爱戴，属下官吏上表请求为他建造清德楼，立碑纪念。大统九年授车骑大将军、仪同三司，大统十二年（546年）宇文泰将他召回任大行台尚书，兼相府司