法尚为巴州刺史、衡州刺史，改封谯郡公，封邑增至一千五百户。文帝在洛阳时，因为法尚投降北朝，有大功于国，召他入朝觐见，赐给他金钿酒钟一双，彩五百段，良马十五匹，奴婢三百口，随身鼓吹一部，并大肆宣扬降将所得的荣宠。一年后隋朝改衡州为黄州，他以衡州总管转任黄州总管，使经略江南，伺探南陈动静。开皇八年，伐陈之役中，以行军总管隶属秦王杨俊，率领舟师三万击破陈成州刺史熊门超于樊口。开皇九年，改任鄂州、松州刺史。年末迁任永州总管，率领黄州兵三千五百人为帐内亲兵，招降陈桂州刺史钱季卿、南康内史柳璇、西衡州刺史邓暠、阳山