580年，杨坚担任丞相，把权武安排在身边。587年（隋文帝开皇七年）权武担任淅州刺史。参加对南朝陈征战，以行军总管随晋王杨广出征六合。凯旋，担任豫州刺史。597年，因为他是创业旧臣、进位大将军，检校潭州总管。桂州李世贤作乱，权武担任行军总管随武候大将军虞庆则讨乱。虞庆则随后被处死，权武的功绩也没有算上，回到潭州。他造了很多金带，赠给岭南首领，首领以当地宝物作为答礼。权武都收受了，所以达到巨富。权武晚年生了一个儿子，招请宾客大开宴会，喝醉了酒，将管辖内的囚犯人全部释放。权武治理当地按南方的风俗，採用适宜施策，