1年，杨坚即位建隋，授苏威太子少保、爵位邳国公，兼务纳言、民部尚书。苏威、高颎共辅朝政，隋文帝非常信任，苏威历任刑部尚书、御史大夫、吏部尚书，制定隋律令《开皇律》，为法制整备做出大贡献。589年，为尚书右仆射。592年，国子博士何妥与苏威之子苏夔议论宫中音乐制度，论者多畏惧苏威权势，附和苏夔意见。何妥上奏苏威与卢恺、薛道衡、王弘、李同和为朋党，苏威被免官，一年后，复官爵，为纳言。601年，再任尚书右仆射。隋炀帝即位，加苏威大将军。607年，高颎、贺若弼被诛杀，苏威连座免官。不久，再为纳言，与宇文述、裴矩